„Nikt nie powinien przeżywać koszmaru polegającego na oglądaniu własnych intymnych deepfake'ów online. Nie możemy i nie będziemy tolerować rozprzestrzeniania tych obraźliwych i poniżających obrazów, których celem są nieproporcjonalnie często kobiety i dziewczęta” podkreśliła Liz Kendall, ministra nauki, innowacji i technologii.
Ofcom, brytyjski organ kontrolujący i nadzorujący rynek mediów również zajął stanowisko w sprawie. Skontaktował się z firmami X i xAI, aby dowiedzieć się o działaniach podjętych w celu ochrony praw użytkowników w Wielkiej Brytanii i ustaleniu kolejnych działań.
Do sprzeciwu dołączyły się rządy Francji i Indii, które poinformowały w piątek, że podjęły kroki, by zablokować funkcję Groka wytwarzającą nagie deepfaki użytkowników, w tym dzieci.
Jak to się zaczęło?
Do niebezpiecznego trendu doszło z powodu decyzji Elona Muska i platformy X o utworzeniu chatbota z mniejszą ilością zabezpieczeń od konkurencji, zgodnie z przekonaniem Muska, że nadmierna moderacja jest ograniczeniem wolności słowa. Tym samym twórcy godzili się na odrażające wykorzystanie tego narzędzia, które już nie pierwszy raz stanęło w ogniu krytyki. Latem wybuchł skandal z udziałem Groka, którego przeprogramowano, aby był “mniej poprawny politycznie”. Wtedy generował on drastyczne treści antysemickie i opisywał, jak dokonałby gwałtu na jednym z użytkowników.
Afera wokół seksualnych deepfake’ów wytworzonych bez zgody przez AI skłania do refleksji na temat współczesnego bezpieczeństwa w sieci. Każdy, kto udostępnia swój wizerunek w internecie może paść ofiarą tych groźnych praktyk i aktualnie nie posiadamy narzędzi, żeby się przed tym chronić. Dlatego działania użytkowników są takie niepokojące, a regulacje konieczne. Mimo kontrowersji ogłoszono, że Pentagon będzie wykorzystywał chatbota w ramach zestawu „Grok dla rządu”. Produkty stworzone zostały przez xAI z przeznaczeniem dla agencji federalnych USA z możliwością nabycia przez każdy resort, agencję i biuro rządu federalnego.