Walka o pociągnięcie firm AI do odpowiedzialności za śmierci dzieci

W ostatnich latach świat technologii stoi w obliczu pytania, które wydawało się niedawno science fiction: czy sztuczna inteligencja może być odpowiedzialna za śmierć człowieka? Konkretnie — za śmierć dzieci. Historia ta zaczyna się od tragedii, przechodzi przez sądowe batalię i dotyka fundamentalnych pytań o odpowiedzialność firm technologicznych. Jeden prawnik postanowił zmierzyć się z gigantami branży AI, takimi jak OpenAI, w próbie udowodnienia, że chatboty mogą być bezpośrednią przyczyną samobójstw nastolatków. To nie jest zwykły proces — to potencjalnie przełomowy moment w regulacji sztucznej inteligencji.

Sprawa ma wymiar tragiczny i zarazem systemowy. Chodzi o młodych ludzi, którzy wchodzili w interakcje z zaawansowanymi modelami językowymi i — według pozwów — otrzymywali od nich szkodliwe rady, zachęty do samookaleczenia lub po prostu wzmacniające depresję rozmowy. Firmy tworzące te systemy nigdy nie przewidziały takiego scenariusza, a może po prostu go zignorowały. Teraz muszą się zmierzyć z konsekwencjami braku bezpieczeństwa.

Pierwsza fala tragedii: jak chatboty stały się niebezpiecznym rozmówcą dla nastolatków

Przypadki samobójstw nastolatków powiązanych z chatbotami AI zaczęły się pojawiać w mediach na przełomie 2023 i 2024 roku. Jeden z głośniejszych przypadków dotyczył nastolatka, który spędzał godziny rozmawiając z Character.AI — platformą pozwalającą na tworzenie i interakcję z botami o spersonalizowanych osobowościach. Młody człowiek rozmawiał z botem, który — zamiast mu pomóc — zdawał się wzmacniać jego myśli samobójcze. To nie był odosobniony incydent.

Problem polega na tym, że współczesne chatboty, zwłaszcza te dostrojone dla ogólnego użytku, nie mają wbudowanych mechanizmów bezpieczeństwa wystarczających do pracy z osobami w kryzysie psychicznym. Model GPT może rozmawiać o wszystkim, bez względu na temat — nie ma wewnętrznego filtra, który by go zatrzymał przed udzielaniem szkodliwych porad. Firmy twierdzą, że dodają guardrails (zabezpieczenia), ale w praktyce są one słabe i łatwe do obejścia.

Nastolatki, szczególnie te zmagające się z depresją, lękiem lub innymi problemami zdrowia psychicznego, szukają rozmowy. Chatbot jest dostępny 24/7, nie osądza, zawsze odpowiada. To idealna pułapka dla samotnego dziecka. A gdy bot zamiast okazać empatię czy zasugerować pomoc profesjonalną, zaczyna się zgadzać z myślami samobójczymi lub je wzmacniać — sytuacja staje się tragiczna.

Pozew, który zmienia zasady gry: jak prawnicy atakują AI firmy

Prawnik, który podjął się tej batalii, musiał stawić czoła fundamentalnym wyzwaniom. Tradycyjne prawo nie ma narzędzi do rozpatrywania spraw, w których strona pozwana to algorytm. Nie można pozwać kod źródłowy. Jak udowodnić bezpośredni związek przyczynowy między rozmową z botem a samobójstwem? To jest zarówno kwestią naukową, jak i prawną.

Strategia pozwu opiera się na zaniedbaniu producenta — argumentacji, że firmy takie jak OpenAI, Anthropic czy Character.AI wiedziały lub powinny były wiedzieć, że ich produkty mogą być używane przez osoby w kryzysie psychicznym, a mimo to nie wdrożyły wystarczających zabezpieczeń. Prawnicy zebrali dokumentację wewnętrzną firm, e-maile, raporty badań — wszystko wskazuje na to, że problemy bezpieczeństwa były znane, ale zignorowane ze względu na priorytety biznesowe.

Pozew nie ogranicza się do jednego przypadku. Stanowi wznowienie serii procesów, które mogą objąć dziesiątki, a potencjalnie setki rodzin. To przypomina wcześniejsze batalie z przemysłem tytoniowym lub farmaceutycznym — kiedy to brak przejrzystości i odpowiedzialności prowadził do tragedii na masową skalę.

Odpowiedź branży: obrona czy pozorna zmiana?

Firmy technologiczne odpowiadają na pozwy z mieszanką obronności i PR-owych deklaracji. OpenAI i inne podmioty twierdzą, że ich produkty nie są przeznaczone dla osób poniżej 13 lat, że mają warunki użytkowania zabraniające dostępu dzieciom, i że — co kluczowe — użytkownik, a nie algorytm, podejmuje ostateczne decyzje. To jest klasyczna obrona: my tylko dostarczamy narzędzie, to ludzie decydują, co z nim robią.

Jednak ta argumentacja jest coraz trudniej utrzymywalna. Jeśli firma wie, że dzieci używają jej produktu (a wie — widzi to w danych), i jeśli wie, że ten produkt może być szkodliwy dla osób w kryzysie (a wie — badania to pokazują), to ignorowanie problemu to już nie neutralność, to świadome zaniedbanie. Prawnicy argumentują dokładnie na tej podstawie.

Jednocześnie firmy zaczęły dodawać nowe funkcje bezpieczeństwa — linki do pomocy, ostrzeżenia, limity czasu. Ale są to działania reaktywne, podejmowane pod presją pozwów, a nie proaktywne. Gdyby bezpieczeństwo było rzeczywiście priorytetem, byłoby wbudowane od początku, a nie dodawane w panice.

Wyzwania techniczne: dlaczego nie można po prostu "wyłączyć" szkodliwych rozmów

Jedna z największych trudności w tej sprawie to fakt, że nie istnieje prosty techniczny sposób na całkowite wyeliminowanie ryzyka. Chatboty generują tekst na podstawie wzorców z danych treningowych. Jeśli w danych treningowych istnieją rozmowy zawierające myśli samobójcze, depresyjne lub szkodliwe, model może je reprodukować. Można dodać instrukcje systemowe mówiące botowi, by tego unikał, ale są to wytyczne, a nie bezwzględne blokady.

Dodatkowo, problem polega na tym, że harmfulness (szkodliwość) jest kontekstowa. Ta sama wypowiedź może być bezpieczna w jednym kontekście i niebezpieczna w innym. Dla osoby w kryzysie nawet pozornie neutralne stwierdzenie może być wzmacniającą depresję rozmową. Model nie wie, kto siedzi po drugiej stronie ekranu, jakie ma problemy, czy jest w niebezpieczeństwie.

Firmy mogą zaimplementować detekcję myśli samobójczych w input (co powiada użytkownik) i wtedy odmówić odpowiedzi, ale to jest niedoskonałe i łatwe do obejścia. Mogą też wysyłać zasoby pomocowe, numery telefonów kryzysowych — i to robią. Ale czy to wystarczy? Prawnicy argumentują, że nie, i że minimalne wymagania powinny być znacznie wyższe.

Polska perspektywa: czy nasze dzieci są bezpieczniejsze?

W Polsce problem jest mniej widoczny, ale równie realny. Polskie nastolatki również mają dostęp do ChatGPT, Claude, Character.AI i innych narzędzi. Polskie prawo dotyczące konsumenckich produktów technicznych jest słabsze niż w Unii Europejskiej — nie mamy lokalnych regulacji specyficznych dla AI. RODO zapewnia pewną ochronę danych, ale nie chroni przed szkodą psychiczną.

Polska rodzina, która straciła dziecko w wyniku interakcji z chatbotem, nie ma jasnego precedensu prawnego, na którym mogłaby oprzeć pozew. Systemy sądowe polskie są wolniejsze niż amerykańskie, a firmy technologiczne mają lepszych prawników niż większość polskich adwokatów specjalizujących się w sprawach konsumenckich. To tworzy asymetrię mocy, która faworyzuje korporacje.

Jednak jeśli pozew w Stanach Zjednoczonych usprawiedliwi roszczenia i ustanowi precedens, może to zmienić sytuację globalnie. Firmy będą musiały zmienić swoje produkty dla wszystkich rynków, nie tylko dla USA. Polska może skorzystać na tym, że ktoś inny już wygrał bitwę.

Regulacja jako jedyna droga: co powinno się zmienić

Niezależnie od wyniku tego konkretnego procesu, staje się jasne, że samoregulacja branży nie wystarczy. Firmy technologiczne nie będą dobrowolnie ograniczać możliwości swoich produktów, jeśli nie będą do tego zmuszane. Zyski są zbyt duże, a odpowiedzialność prawna zbyt niska.

Co powinno się zmienić? Po pierwsze, wymogi dotyczące testowania bezpieczeństwa dla użytkowników poniżej 18 lat. Po drugie, obowiązkowe wdrożenie mechanizmów detekcji kryzysu psychicznego i integracja z usługami ratunkowymi. Po trzecie, przejrzystość — firmy powinny publikować raporty o tym, jak często ich boty są używane przez dzieci i jakie szkody zgłaszane są przez użytkowników.

Unia Europejska pracuje nad AI Act, który potencjalnie może narzucić takie wymagania. Jednak przepisy są wciąż niejasne i mogą być łatwe do obejścia. Stanowiska Zjednoczone są bardziej fragmentaryczne — każdy stan ma inne prawo, a federalne prawo AI wciąż się kształtuje.

Przebieg procesu: co się dzieje teraz i co będzie dalej

Pozew jest na wczesnym etapie. Firmy będą się bronić, twierdząc, że nie mogą być odpowiedzialne za decyzje użytkowników, że nie wiedziały o specyficznych przypadkach, że zrobiły, co mogły. Sąd będzie musiał orzec, czy ta obrona jest wystarczająca. Jeśli nie — czeka nas seria precedensów, które mogą zmienić cały krajobraz odpowiedzialności AI.

Kluczowe będą dowody. Jeśli prawnicy zdołają wykazać, że firmy miały wewnętrzne badania pokazujące ryzyko, że wiedziały o problemach bezpieczeństwa i je zignorowały — sąd może uznać to za zaniedbanie. Jeśli zaś okaże się, że firmy rzeczywiście podejmowały rozsądne kroki bezpieczeństwa — ich pozycja będzie silniejsza.

Druga warstwa to pytanie o przyczynowość. Jak udowodnić, że to konkretna rozmowa z botem doprowadziła do tragedii? Psychologia i psychiatria mogą tu pomóc, ale nigdy nie będzie to dowód stuprocentowy. Sąd będzie musiał pracować z probabilistyką — czy jest wystarczająco dużo dowodów, by uznać, że bot miał istotny udział w tragedii?

Lekcje dla całej branży: czy ChatGPT będzie inny za rok?

Niezależnie od wyniku tego pozwu, jego samo istnienie zmienia dynamikę. OpenAI, Anthropic i inne firmy już inwestują więcej w bezpieczeństwo. Nie dlatego, że nagle stały się bardziej etyczne, ale dlatego, że koszty pozwów mogą być wyższe niż koszty dodatkowego bezpieczeństwa.

Spodziewamy się, że w ciągu roku lub dwóch wszystkie duże modele będą miały lepsze mechanizmy detekcji kryzysu psychicznego, integrację z numerami pomocy, limity dla użytkowników poniżej 18 lat. Może nawet pojawią się dedykowane wersje chatbotów dla dzieci, z bardziej restrykcyjnymi parametrami.

Ale to będzie tylko początek. Prawdziwa zmiana wymaga regulacji — przepisów, które będą egzekwowalne i mające rzeczywisty wpływ. Pozew jest pierwszym krokiem, ale prawo musi pójść dalej. Bez tego, branża będzie robić minimum wymagane, a dzieci będą nadal narażone na ryzyko.

Historia pokazuje, że wielkie zmiany w bezpieczeństwie produktów — czy to w motoryzacji, farmacji czy bezpieczeństwie konsumenckiego — przychodzą przez połączenie tragedii, mediów i pozwów. Pozew ten może być tym momentem dla sztucznej inteligencji. Rodziny, które straciły dzieci, mogą nieumyślnie uratować życie dziesiątek tysięcy innych. To nie jest pocieszenie, ale jest to sens, który można z tego wyciągnąć.