2026 rok rozpoczął się od niebezpiecznego trendu sztucznej inteligencji. Użytkownicy portalu X pod zdjęciami głównie kobiet oraz osób nieletnich prosili chatbota o przekształcenie ich w treści natury seksualnej. Działania w tej sprawie podjęły już rządy Wielkiej Brytanii, Francji i Indii.
Pod koniec grudnia 2025 roku Elon Musk opublikował wpis zachęcający do korzystania z funkcji Groka do przekształcania obrazów i wideo. Niedługo potem pojawił się trend „rozbierania” użytkowników, najczęściej ukazywanych w strojach kąpielowych lub seksualnych pozach. Deepfaki dotknęły użytkowników bez ich wiedzy, wykorzystując głównie wizerunki nieletnich, kobiet czy osób publicznych, między innymi Donalda Tuska czy Roberta Lewandowskiego. Sam Elon Musk potraktował jednak ten trend z przymrużeniem oka. Wygenerował przez Groka swoje zdjęcie w bikini, reagując: „Idealnie 👌”.
We wtorek rząd Wielkiej Brytanii zażądał od platformy X należącej do Elona Muska modyfikacji chatbota, aby wykluczyć możliwość produkowania przeseksualizowanych deepfake’ów i zakazać ich publikacji.
Ofcom, brytyjski organ kontrolujący i nadzorujący rynek mediów również zajął stanowisko w sprawie. Skontaktował się z firmami X i xAI, aby dowiedzieć się o działaniach podjętych w celu ochrony praw użytkowników w Wielkiej Brytanii i ustaleniu kolejnych działań.
Do sprzeciwu dołączyły się rządy Francji i Indii, które poinformowały w piątek, że podjęły kroki, by zablokować funkcję Groka wytwarzającą nagie deepfaki użytkowników, w tym dzieci.
Jak to się zaczęło?
Do niebezpiecznego trendu doszło z powodu decyzji Elona Muska i platformy X o utworzeniu chatbota z mniejszą ilością zabezpieczeń od konkurencji, zgodnie z przekonaniem Muska, że nadmierna moderacja jest ograniczeniem wolności słowa. Tym samym twórcy godzili się na odrażające wykorzystanie tego narzędzia, które już nie pierwszy raz stanęło w ogniu krytyki. Latem wybuchł skandal z udziałem Groka, którego przeprogramowano, aby był “mniej poprawny politycznie”. Wtedy generował on drastyczne treści antysemickie i opisywał, jak dokonałby gwałtu na jednym z użytkowników.
Afera wokół seksualnych deepfake’ów wytworzonych bez zgody przez AI skłania do refleksji na temat współczesnego bezpieczeństwa w sieci. Każdy, kto udostępnia swój wizerunek w internecie może paść ofiarą tych groźnych praktyk i aktualnie nie posiadamy narzędzi, żeby się przed tym chronić. Dlatego działania użytkowników są takie niepokojące, a regulacje konieczne. Mimo kontrowersji ogłoszono, że Pentagon będzie wykorzystywał chatbota w ramach zestawu „Grok dla rządu”. Produkty stworzone zostały przez xAI z przeznaczeniem dla agencji federalnych USA z możliwością nabycia przez każdy resort, agencję i biuro rządu federalnego.
