ChatGPT w "trybie dla dorosłych" może zapoczątkować nową erę intymnej inwigilacji

OpenAI planuje wprowadzić do ChatGPT tryb dla dorosłych, który umożliwi użytkownikom angażowanie się w rozmowy o charakterze seksualnym. To nie jest już spekulacja czy teoretyczne zagrożenie — to konkretny kierunek rozwoju, który już teraz budzi alarm wśród ekspertów zajmujących się interakcją człowieka z sztuczną inteligencją. Według badaczy zajmujących się bezpieczeństwem AI, taka funkcjonalność mogłaby otworzyć zupełnie nową erę inwigilacji — nie w tradycyjnym sensie, ale w sposób znacznie bardziej intymny i zagrażający prywatności niż cokolwiek, co dotychczas widzieliśmy w sieci.

Problem nie polega na tym, że ludzie będą rozmawiać z AI o seksie — to naturalne i nieuniknione. Chodzi o to, co dzieje się z danymi z tych rozmów, kto ma do nich dostęp i jak mogą być wykorzystywane. Kiedy użytkownik angażuje się w intymną konwersację z chatbotem, generuje niezwykle szczegółowe dane na temat swoich preferencji, fantazji, zahamowań i lęków. Te informacje stanowią rodzaj cyfrowego otisku palca bardziej precyzyjny niż jakiekolwiek dane behawioralne zebrane dotychczas przez Big Tech.

Anatomia intymnego profilowania

Kiedy użytkownik prowadzi rozmowę seksualno-romantyczną z ChatGPT, generuje on dane, które są nieporównywalnie bogatsze w kontekście psychologicznym niż tradycyjne dane śledzące. Historia przeglądarki mówi, jakie filmy oglądasz; historia ChatGPT mogłaby powiedzieć, jakie są twoje głębokie pragnienia, lęki i fantazje. To różnica między wiedzą, że ktoś interesuje się porno, a wiedzą dokładnie jakie aspekty seksualności go fascynują, co odrzuca i co go przeraża.

Eksperci od bezpieczeństwa danych wskazują, że intymne rozmowy z AI mogą być wykorzystywane do budowy profili psychologicznych o przebijającej dokładności. Algorytmy mogą identyfikować nie tylko preferencje seksualne, ale także emocjonalne słabe punkty, podatność na manipulację, potencjalne problemy psychiczne i osobiste wyzwania. Dla firm zajmujących się reklamą, ubezpieczeniami czy nawet firm inwestycyjnych takie dane byłyby bezcenne — bardziej cenne niż wiele tradycyjnych metryk.

Dodajmy do tego fakt, że OpenAI, jak każda duża korporacja technologiczna, przechowuje dane treningowe i może je wykorzystywać do ulepszania swoich modeli. Oznacza to, że intymne rozmowy mogą być analizowane przez zespoły inżynierów, być może nawet trafiać do systemów uczenia maszynowego, które będą trenowane na faktycznych ludzkich fantazjach i pragnieniach. Nawet jeśli dane zostaną zanonimizowane, techniki de-anonimizacji są coraz bardziej zaawansowane.

Ekosystem danych jako broń handlowa

Historia pokazuje, że każdy rodzaj danych, który zostanie zebrany, ostatecznie zostanie sprzedany, podzielony lub wycieknie. Cambridge Analytica nauczyła nas, że nawet pośrednie dane behawioralne mogą być wykorzystywane do manipulacji politycznej na masową skalę. Dane z intymnych rozmów z AI byłyby o wiele potężniejszym narzędziem.

Wyobraźmy sobie scenariusz, w którym dane z ChatGPT Adult Mode trafiają do brokera danych — czy to przez hakowanie, czy przez zaniedbanie bezpieczeństwa, czy nawet przez oficjalną sprzedaż (oczywiście zanonimizowaną). Ubezpieczyciel mogłby wykorzystać tę informację, aby podnieść składki dla osób z określonymi preferencjami seksualnymi. Pracodawca mógłby dowiedzieć się rzeczy, które mogłyby wpłynąć na decyzje zatrudnieniowe. Polityk mógłby zidentyfikować i celować w określone grupy demograficzne na podstawie ich intymnych preferencji.

OpenAI twierdzi, że chroni prywatność użytkowników, ale historia korporacji technologicznych pokazuje, że ochrona prywatności jest zawsze drugorzędna wobec monetyzacji danych. Facebook obiecywał prywatność. Google obiecywał prywatność. Amazon obiecywał prywatność. Wszystkie z nich ostatecznie znalazły sposoby na wykorzystywanie danych użytkowników w sposób, który użytkownicy nigdy nie wyobrażali sobie na początku.

Asymetria władzy między użytkownikiem a korporacją

Gdy użytkownik rozmawia z ChatGPT Adult Mode, istnieje fundamentalna asymetria władzy. Użytkownik wierzy, że rozmawia z czymś, co jest dyskretne i bezstronne — maszyną bez intencji. Ale maszyna ta jest własnością OpenAI, korporacji, która ma konkretne interesy finansowe. OpenAI nie jest neutralnym narzędziem — to biznes, który musi generować przychody dla swoich inwestorów.

Użytkownik nie ma realnej kontroli nad tym, co dzieje się z jego danymi. Warunki świadczenia usługi mogą być zmieniane jednostronnie. Polityka prywatności może się zmienić. Algorytmy mogą być aktualizowane w sposób, który zmienia sposób przetwarzania danych. A użytkownik? Użytkownik po prostu akceptuje warunki i liczy na dobrą wolę korporacji, która ma financjalny motyw, aby maksymalizować wartość swoich danych.

Polska regulacja RODO daje użytkownikom pewne prawa, ale są one teoretyczne. W praktyce, gdy ktoś chce usunąć swoje dane z ChatGPT, musi wierzyć, że zostały rzeczywiście usunięte. Nie ma sposobu na weryfikację. Kopie zapasowe mogą być przechowywane na serwerach. Dane mogą być już wbudowane w modele uczenia maszynowego w sposób, który uniemożliwia ich usunięcie bez przebudowania całego systemu.

Połączenie z innymi danymi — superprofilowanie

Rzeczywiste zagrożenie pojawia się, gdy dane z ChatGPT Adult Mode zostają połączone z innymi danymi, które OpenAI lub jego partnerzy już posiadają. OpenAI ma dostęp do informacji o tym, jakie pytania użytkownicy zadają ChatGPT na temat pracy, zdrowia, finansów i relacji. Kiedy dodamy do tego intymne rozmowy seksualne, otrzymujemy kompletny obraz psychologiczny człowieka.

Microsoft, który zainwestował miliardy w OpenAI i integruje ChatGPT ze swoimi produktami, ma dostęp do jeszcze więcej danych. Zna historię przeglądania Bing, historię wyszukiwań, dane z Outlook, dane z OneDrive. Kiedy wszystko to zostanie połączone z intymnym profilowaniem z ChatGPT, wyłania się obraz człowieka, który jest niezwykle szczegółowy i podatny na manipulację.

To, co eksperci nazywają "superprofilowaniem", to połączenie wielu źródeł danych w celu stworzenia psychologicznego modelu jednostki, który jest dokładniejszy niż jakikolwiek test psychologiczny. Takie superprofile mogą być wykorzystywane do mikrotargetowania reklam, ale także do identyfikacji ludzi podatnych na radykalizację, oszustwa, szantaż lub manipulację polityczną.

Precedens dla innych platform

Jeśli OpenAI wprowadzi Adult Mode, będzie to precedens dla innych platform. Meta, Google, Amazon — wszystkie będą czekać na wyniki. Jeśli okaże się, że Adult Mode jest popularny i generuje przychody, pozostałe korporacje technologiczne będą chciały wejść na ten rynek. Będziemy mieć sytuację, w której każda duża platforma AI będzie oferować intymne rozmowy z chatbotami, a każda z nich będzie zbierać i przechowywać dane o naszych najgłębszych pragnieniach.

To nie jest teoretyczne zagrożenie. Już teraz istnieją aplikacje, które oferują "AI girlfriends" — chatboty zaprojektowane do symulowania relacji romantycznych i seksualnych. Te aplikacje zbierają ogromne ilości danych. Niektóre z nich pochodzą z krajów o słabych standardach ochrony prywatności. Dane mogą być sprzedawane trzecim stronom bez zgody użytkownika.

OpenAI, dzięki swojej pozycji jako lider w branży AI, ma szansę na ustawienie standardów. Jeśli zrobi to odpowiedzialnie, może stworzyć precedens dla całej branży. Jeśli jednak będzie to robić w celu maksymalizacji przychodu kosztem prywatności użytkowników, będzie to sygnał dla wszystkich innych firm, że intymne dane użytkowników są godziwą grą.

Brak rzeczywistych rozwiązań regulacyjnych

Polska, jak i większość krajów, nie ma wystarczających regulacji dotyczących AI i prywatności. RODO jest starą regulacją, napisaną zanim AI stało się tak potężne. Regulacje unijne dotyczące AI są nadal w fazie tworzenia i prawdopodobnie będą za opóźnione, aby zapobiec najgorszym naruszeniom.

Tymczasem korporacje technologiczne poruszają się szybciej niż regulacje. OpenAI może wprowadzić Adult Mode, zbierać dane, a zanim jakikolwiek regulator będzie w stanie coś z tym zrobić, dane będą już zebrane, przechowywane i prawdopodobnie sprzedane. Regulatorzy zawsze działają w trybie reaktywnym — czekają, aż coś pójdzie nie tak, a następnie próbują to naprawić. Ale w przypadku danych intymnych, szkoda już będzie wyrządzona.

Polska mogłaby być liderem w ochronie prywatności użytkowników AI, ale będzie to wymagać odwagi politycznej. Będzie to wymagać regulacji, które są zarazem ochronne dla użytkowników, ale nie są zbyt restrykcyjne dla innowacji. Dotychczas Polska nie wykazała takiej odwagi.

Co mogą zrobić użytkownicy?

Indywidualne opcje są ograniczone, ale nie nieistniejące. Użytkownicy mogą po prostu nie używać Adult Mode. Mogą być świadomi tego, jakie dane generują podczas korzystania z ChatGPT i innych platform AI. Mogą żądać przejrzystości od OpenAI i innych firm dotyczących tego, jak przechowują i wykorzystują dane.

Polskie organizacje zajmujące się ochroną prywatności powinny monitorować ten rozwój i być gotowe do działania, jeśli pojawią się naruszenia. Użytkownicy powinni wspierać takie organizacje i być głośni na temat swoich obaw.

Ale rzeczywistość jest taka, że bez znaczących zmian regulacyjnych i wewnętrznych zmian w kulturze korporacyjnej OpenAI, Adult Mode będzie kolejnym kamieniem milowym w budowaniu systemu totalitarnej inwigilacji opartej na intymnych danych. Historia pokazuje, że korporacje technologiczne nie ograniczają się dobrowolnie w zbieraniu danych. Robią to tylko wtedy, gdy są do tego zmuszane przez regulacje lub presję publiczną.