Pentagon planuje, by firmy zajmujące się sztuczną inteligencją trenowały na danych niejawnych - mówi urzędnik obrony

Pentagon przygotowuje się do wprowadzenia radykalnej zmiany w sposobie, w jaki współpracuje z firmami zajmującymi się sztuczną inteligencją. Według doniesień MIT Technology Review, Departament Obrony planuje utworzenie bezpiecznych środowisk, w których producenci modeli generatywnych — takie firmy jak Anthropic, OpenAI czy potencjalnie inni gracze branży — będą mogły trenować wojskowe wersje swoich systemów bezpośrednio na danych niejawnych. To nie jest zwykła ewolucja — to fundamentalna zmiana w paradygmacie bezpieczeństwa narodowego i zarządzania informacją wrażliwą.

Inicjatywa jest odpowiedzią na rosnące zainteresowanie militarnym zastosowaniem AI oraz na fakt, że armia amerykańska już korzysta z takich narzędzi w operacyjnych warunkach. Modele takie jak Claude od Anthropic są już wykorzystywane do analizy celów w Iranie i innych wrażliwych zadań wywiadowczych. Jednak dotychczasowy model — gdzie istniejące modele otrzymują dostęp do informacji niejawnych w trakcie wdrażania — ma poważne ograniczenia. Pentagon chce pójść dalej: pozwolić tym modelom uczyć się na tajnych danych, co potencjalnie mogłoby stworzyć wyspecjalizowane systemy AI dostosowane do militarnych potrzeb.

To posunięcie rodzi szereg pytań o bezpieczeństwo, kontrolę i przyszłość relacji między przemysłem technologicznym a instytucjami rządowymi. Jeśli Pentagon rzeczywiście otworzy dostęp do swoich najwrażliwszych danych dla prywatnych firm technologicznych, konsekwencje mogą być zarówno obiecujące, jak i niebezpieczne.

Jak obecnie funkcjonuje AI w wojsku

Aby zrozumieć znaczenie tego planu, trzeba najpierw wiedzieć, jak Pentagon wykorzystuje AI dzisiaj. Modele takie jak Claude są już wdrażane w środowiskach zawierających dane niejawne, ale w bardzo specyficzny sposób. Systemy działają w izolowanych sieciach — tzw. air-gapped environments — gdzie mają dostęp do wrażliwych informacji, ale nie mogą się z nimi komunikować poza tymi bezpiecznymi strefami.

Praktyczne zastosowania są już zaskakująco zaawansowane. Armia wykorzystuje AI do analizy obrazów satelitarnych, przetwarzania dużych ilości danych wywiadowczych i wspierania decyzji taktycznych. W kontekście irańskim — jak wspomniano w raportach — modele pomagają w identyfikacji i analizie potencjalnych celów. To nie są spekulacje czy przyszłościowe scenariusze; to dzieje się teraz.

Problem w obecnym modelu polega na tym, że modele ogólne — trenowane na publicznych danych — nie są optymalnie dostosowane do specyficznych potrzeb wojskowych. Claude czy GPT-4 to uniwersalne narzędzia, które musiały się uczyć na danych dostępnych publicznie. Kiedy Pentagon chce je wykorzystać do analizy tajnych dokumentów, system musi radzić sobie z danymi znacznie bardziej specjalistycznymi niż cokolwiek, co widział podczas trenowania. To ogranicza jego efektywność.

Bezpieczne środowiska dla trenowania na danych niejawnych

Nowy plan Pentagon zmienia tę dynamikę. Zamiast tylko używać istniejących modeli w bezpiecznych sieciach, Departament Obrony chce pozwolić firmom takim jak Anthropic na faktyczne trenowanie swoich modeli na danych niejawnych. Oznacza to, że Claude czy inne systemy mogłyby nauczyć się bezpośrednio z wojskowych baz danych, dokumentów klasyfikowanych i informacji wywiadowczych.

Aby to było bezpieczne, Pentagon planuje utworzenie dedykowanych, całkowicie izolowanych infrastruktur obliczeniowych. Firmy technologiczne nie miałyby dostępu do tych danych poza ściśle kontrolowanymi środowiskami. Proces wyglądałby następująco: Pentagon zapewniłby sprzęt, połączenia sieciowe i sam dostęp do danych, podczas gdy firmy takie jak Anthropic dostarczyłyby algorytmy i wiedzę o trenowaniu modeli. Trenowanie odbywałoby się w pełni w kontrolowanej strefie bezpieczeństwa, bez możliwości eksfiltracji danych.

To podejście ma teoretyczne zalety. Model wytrenowany na rzeczywistych danych wojskowych byłby znacznie bardziej efektywny w analizie podobnych danych w przyszłości. Mogłby lepiej zrozumieć kontekst militarny, specjalną terminologię, struktury organizacyjne armii i wzorce w danych wywiadowczych. Dla Pentagon to oznaczałoby AI, które rzeczywiście rozumie jego problemy, zamiast ogólnego narzędzia wymagającego ciągłych adaptacji.

Dlaczego Pentagon nie buduje tego sam

Pytanie, które nasuwa się naturalnie: dlaczego Departament Obrony nie rozwija własnych modeli AI od podstaw, zamiast współpracować z prywatnymi firmami? Odpowiedź jest prozaiczna, ale ważna. Pentagon po prostu nie ma takiej zdolności wewnętrznej.

Budowanie i trenowanie state-of-the-art modeli generatywnych wymaga nie tylko astronomicznych zasobów obliczeniowych, ale także zespołów naukowców, inżynierów i ekspertów, których Pentagon nie posiada w wystarczającej liczbie. Branża technologiczna przyciąga te talenty lepszymi wynagrodzeniami, bardziej atrakcyjnym środowiskiem pracy i możliwością publikowania badań. Antropic, OpenAI czy Google posiadają setki specjalistów zaangażowanych w rozwój AI; Pentagon ma zaledwie garstę.

Dodatkowo, firmy technologiczne dysponują już działającymi, zaawansowanymi modelami. Zamiast inwestować miliarda dolarów w budowanie czegoś od zera przez lata, Pentagon może wykorzystać istniejące rozwiązania i dostosować je do swoich potrzeb. To pragmatyczne podejście, choć rodzi poważne wyzwania bezpieczeństwa i kontroli.

Współpraca z prywatnymi firmami oznacza również, że Pentagon może korzystać z postępów w badaniach nad AI bez konieczności samodzielnego finansowania całej infrastruktury. Jednak cena za to jest wysoka: konieczność dzielenia się najwrażliwszymi danymi z prywatnym sektorem.

Zagrożenia bezpieczeństwa i potencjalne wycieki

Tutaj zaczyna się rzeczywiście interesująco — i niepokojąco. Pozwolenie firmom technologicznym na dostęp do danych niejawnych Pentagon wiąże się z nieodłącznym ryzykiem bezpieczeństwa. Nawet jeśli całe trenowanie odbywa się w izolowanym środowisku, samo zatrudnienie pracowników z dostępem do takich danych tworzy wektor ataku.

Historia pokazuje, że największe wycieki informacji niejawnych często pochodzą od osób mających uprawniony dostęp. Edward Snowden miał dostęp do danych NSA; Chelsea Manning miała dostęp do raportów wojskowych. Jeśli inżynier z Anthropic ma dostęp do danych niejawnych Pentagon — nawet jeśli tylko w celu trenowania modelu — staje się potencjalnym celem dla zagranicznych służb specjalnych, hakerów lub może działać z własnych pobudek ideologicznych.

Pentagon będzie musiał wprowadzić rozszerzone procedury bezpieczeństwa — gruntowne sprawdzenia bezpieczeństwa (security clearances) dla pracowników firm technologicznych, monitorowanie ich działalności, ograniczenia dotyczące tego, gdzie mogą pracować i z kim mogą się komunikować. To będzie skomplikowane i kosztowne, ale absolutnie konieczne.

Istnieje również ryzyko bardziej subtelne: co się stanie z wiedzą zdobytą podczas trenowania? Jeśli Anthropic będzie trenować Claude na danych niejawnych Pentagon, czy ta wiedza pozostanie zawarta w modelu? Czy mogłaby być wyekstrahowana lub odtworzona? Jeśli Claude nauczy się rozpoznawać wzorce w irańskich sieciach komunikacyjnych lub strukturach wojskowych, czy ta wiedza mogłaby być wykorzystana w komercyjnym modelu dostępnym publicznie? Pentagon będzie musiał wprowadzić mechanizmy, które całkowicie oddzielą wojskowe wersje modeli od wersji komercyjnych.

Implikacje dla branży technologicznej

Z perspektywy firm technologicznych — szczególnie Anthropic — ta propozycja Pentagon jest jednocześnie szansą i zagrożeniem. Z jednej strony, dostęp do danych niejawnych Pentagon, jeśli zostanie wykorzystany właściwie, mógłby dostarczyć bezcennych informacji do trenowania modeli. Dane wojskowe i wywiadowcze są niezwykle bogatym źródłem informacji o rzeczywistych problemach i wyzwaniach.

Jednak zaangażowanie się w taki projekt wiąże się z poważnymi konsekwencjami publicznego wizerunku. Już teraz firmy technologiczne stoją w obliczu krytyki dotyczącej militaryzacji AI. Projekt Google z Pentagon — Maven — spotkał się z oporem pracowników i aktywistów. Jeśli Anthropic formalnie zaangażuje się w trenowanie modeli na danych niejawnych do celów wojskowych, może to wzbudzić podobne protesty wśród jego pracowników i w szerszej społeczności technologicznej.

Istnieje też kwestia precedensu. Jeśli Pentagon uzyska dostęp do trenowania modeli na danych niejawnych, czy inne agencje rządowe — CIA, NSA, FBI — będą chciały tego samego? Czy inne kraje będą nalegać na podobne umowy? To mogłoby stworzyć świat, w którym modele AI są trenowane na danych tajnych przez różne rządy, całkowicie oddzielone od publicznego ekosystemu badań nad AI.

Konsekwencje dla przejrzystości i kontroli

Jednym z fundamentalnych wyzwań związanych z tym planem jest kwestia przejrzystości i zewnętrznej kontroli. Współcześnie badacze niezależni mogą analizować publiczne modele AI, testować je, szukać błędów i stronniczości. To jest kluczowe dla bezpieczeństwa i odpowiedzialności. Model wytrenowany na danych niejawnych Pentagon byłby całkowicie niedostępny dla takich analiz.

Oznacza to, że Pentagon musiałby polegać wyłącznie na wewnętrznych testach bezpieczeństwa przeprowadzanych przez Anthropic i własne zespoły. Nikt z zewnątrz nie mógłby sprawdzić, czy model ma tendencje do rekomendowania działań, które mogłyby naruszać międzynarodowe prawo humanitarne, czy czy zawiera błędy, które mogłyby prowadzić do niechcianych konsekwencji. To jest zasadniczo nowy model — gdzie AI systemy używane w militarnych decyzjach będą całkowicie opaque dla publicznego nadzoru.

Dla polskich odbiorców Pixeliftu warto zauważyć, że ta tendencja ma globalne implikacje. Jeśli Stany Zjednoczone ustanowią precedens dla trenowania AI na danych niejawnych, inne kraje — w tym potencjalnie sojusznicy NATO — będą chciały robić to samo. Polska, jako członek NATO, mogłaby znaleźć się w sytuacji, gdzie będzie nacisk na współpracę z firmami technologicznymi w podobnym modelu. To rodzi pytania o to, kto będzie mieć dostęp do polskich danych wojskowych i wywiadowczych, oraz jak będzie to regulowane.

Precedensy i obecne praktyki

Pentagon nie jest nowy w współpracy z prywatnymi firmami nad wrażliwymi projektami. Historia DARPA (Defense Advanced Research Projects Agency) pokazuje, że Departament Obrony ma doświadczenie w pracy z uniwersytetami i firmami na projektach klasyfikowanych. Istnieją już mechanizmy prawne i procedurowe, które pozwalają na takie współprace.

Jednak AI jest innym zwierzęciem. Modele generatywne są czarnymi skrzynkami — nawet ich twórcy nie zawsze rozumieją dokładnie, jak podejmują decyzje. To czyni je bardziej nieprzewidywalnymi niż tradycyjne oprogramowanie. Dodatkowo, trenowanie modelu na danych niejawnych Pentagon byłoby najbardziej ambitnym projektem tego typu — znacznie większym niż poprzednie inicjatywy.

Warto również pamiętać, że Pentagon już eksperymentuje z AI w rzeczywistych warunkach operacyjnych. Drony autonomiczne, systemy analizy danych, systemy wsparcia decyzji — wszystkie to wykorzystują elementy AI. Przejście do modeli wytrenowanych na danych niejawnych byłoby naturalnym następstwem tej ewolucji, ale skok znacznie bardziej radykalny.

Realistyczne scenariusze wdrażania

Jeśli Pentagon rzeczywiście przejdzie do wdrażania tego planu, jak mógłby wyglądać praktycznie? Najprawdopodobniej zacząłby od pilotażowych projektów z jedną lub dwiema firmami — prawdopodobnie Anthropic, ze względu na jej reputację w zakresie bezpieczeństwa AI. Początkowe trenowanie mogłoby dotyczyć stosunkowo mniej wrażliwych danych — na przykład, analizy otwartych raportów wojskowych lub danych historycznych.

Jeśli pilotaż byłby udany, Pentagon mogłby stopniowo rozszerzać dostęp do bardziej wrażliwych danych. Proces byłby długi — najprawdopodobniej rozciągnięty na kilka lat — ze względu na znaczenie bezpieczeństwa. Każda faza wymagałaby zatwierdzenia przez wyższe władze i przeglądu procedur bezpieczeństwa.

W długoterminowym scenariuszu, Pentagon mógłby posiadać całą gamę wyspecjalizowanych modeli AI, każdy wytrenowany na danych niejawnych dla konkretnego zastosowania. Mógłby mieć modele do analizy wywiadowczej, modele do planowania taktycznego, modele do analizy logistyki. Każdy byłby dostosowany do specyficznych potrzeb i całkowicie odizolowany od publicznego ekosystemu AI.

Perspektywa długoterminowa

Jeśli ten plan Pentagon dojdzie do skutku, będziemy świadkami fundamentalnej zmiany w ekosystemie AI. Dotychczas, branża technologiczna — zarówno w Stanach Zjednoczonych, jak i globalnie — rozwijała się w znacznym stopniu niezależnie od rządów. Firmy takie jak OpenAI czy Anthropic budowały modele na publicznych danych i sprzedawały dostęp do nich rządom i biznesowi.

Jeśli Pentagon uzyska dostęp do trenowania modeli na danych niejawnych, to oznaczałoby, że rząd staje się nieodłączną częścią procesu trenowania, a nie tylko użytkownikiem końcowym. To mogłoby stworzyć precedens dla innych rządów i agencji. Ostatecznie, moglibyśmy zobaczyć świat, w którym istnieją dwie odrębne ścieżki rozwoju AI: publiczna, dostępna dla wszystkich, i rządowa, dostępna tylko dla wybranych agencji bezpieczeństwa.

To miałoby profundne implikacje dla bezpieczeństwa, konkurencji i demokracji. Z jednej strony, mogłoby to dać rządom narzędzia do lepszego reagowania na zagrożenia bezpieczeństwa. Z drugiej strony, mogłoby to stworzyć asymetrię w dostępie do zaawansowanego AI, gdzie rządy mają dostęp do systemów znacznie bardziej zaawansowanych niż publiczne. To mogłoby również stworzyć presję na firmy technologiczne do współpracy z rządami, zmniejszając ich niezależność.

Dla Polski i Europy, to jest szczególnie istotne. Jeśli Stany Zjednoczone ustanowią ten model, NATO będzie pod presją, aby przyjąć podobne podejście. Europejskie firmy technologiczne mogą znaleźć się w sytuacji, gdzie będą zmuszone do współpracy z rządami europejskimi w podobny sposób, aby pozostać konkurencyjne. To mogłoby mieć znaczący wpływ na europejski ekosystem AI i niezależność europejskich firm technologicznych.