4 godzin temu
Jak podaje amerykańska telewizja CNN, Ashley St. Clair, matka jednego z dzieci Elona Muska, pozwała jego firmę xAI. Oświadczyła, iż stworzony przez firmę Muska czatbot Grok wygenerował jej fałszywy, pornograficzny wizerunek. Tymczasem po po tym gdy na całym świecie mówi się o skandalu z związanym z masowym tworzeniem seksualizowanych deepfake’ów przez Groka, kolejne kraje blokują do niego dostęp.
27-letnia pisarka i komentatorka polityczna, a zarazem matka jednego z dzieci Elona Muska twierdzi, iż Grok generował bez jej zgody seksualne obrazy typu deepfake z wykorzystaniem jej wizerunku. Z pozwu wynika, iż użytkownicy edytowali jej archiwalne zdjęcia – gdy miała 14 lat – na których była w pełni ubrana.
Pozew: obnażanie i upokarzanie ofiar
„Czatbot Grok wykorzystuje narzędzia sztucznej inteligencji, aby obnażać, upokarzać i seksualnie wykorzystywać ofiary” – głosi pozew. Kobieta domaga się odszkodowania, wskazując na doznane cierpienie psychiczne i naruszenie prywatności.
W rozmowie z CNN St. Clair oświadczyła, iż xAI nie podejmuje działań, które miałyby faktycznie postawić tamę działaniom Groka i zarzuciła firmie, iż jej obecne postępowanie na na celu umniejszenie ponoszonych przez nią strat, a nie zapewnienie bezpieczeństwa potencjalnym ofiarom.
Deepfake’i, czyli obrazy, nagrania audio lub wideo tworzone przez sztuczną inteligencję poprzez cyfrową manipulację wizerunkiem realnych osób, przybrały skalę masową. Według dostępnych danych na początku stycznia Grok był w stanie generować choćby kilka tysięcy seksualizowanych obrazów na godzinę.
Użytkownicy platformy X masowo publikowali obrazy przedstawiające „rozbieranie” postaci na podstawie prawdziwych zdjęć. Ofiarami padali zarówno politycy, jak i osoby prywatne, które nigdy nie wyraziły zgody na wykorzystanie swojego wizerunku w takim kontekście. W Polsce byli to m.in. premier Donald Tusk, Robert Lewandowski, czy prezydent Karol Nawrocki.
Musk zapowiada zmiany, ale wciąż można tworzyć deepfake’i
Platforma X ogłosiła w czwartek aktualizację bezpieczeństwa Groka. Firma poinformowała, iż chatbot nie będzie już mógł edytować zdjęć prawdziwych osób w sposób prowadzący do tworzenia odsłaniających lub seksualizowanych wizerunków w jurysdykcjach, w których jest to nielegalne.
„Wdrożyliśmy środki technologiczne, które uniemożliwiają Grokowi edytowanie wizerunków prawdziwych osób w sposób pokazujący je w wyzywającym stroju” – przekazała platforma X w oficjalnym komunikacie.
Dodatkowo ogłoszono geoblokowanie tej funkcji w wybranych krajach oraz utrzymanie zasady, iż edycja obrazów w Groku będzie dostępna wyłącznie dla użytkowników płacących. Według firmy ma to stworzyć „dodatkową warstwę odpowiedzialności” i ułatwić identyfikację nadużyć.
Pomimo zapowiedzi, ograniczenia przez cały czas nie zostały wprowadzone. Testy wykonane przez ekspertów z serwisu The Verge, przeprowadzone już po opublikowaniu przez X najnowszego oświadczenia, wykazały, iż wciąż da się skłonić chatbota do tworzenia obrazów w bikini, i to przy użyciu bezpłatnego konta.
W czwartek Filipiny, jako trzeci kraj po Malezji i Indonezji, zablokował dostęp do Groka, tłumacząc to falą pornograficznych deepfake’ów. Blokada miała obowiązywać do czasu wdrożenia skutecznych zabezpieczeń, które uniemożliwią generowanie tego typu treści.
Opóźniona reakcja
Badaczka polityki technologicznej Riana Pfefferkorn oceniła, iż funkcje edycji zdjęć powinny zostać wyłączone już w momencie, gdy pojawiły się pierwsze sygnały masowych nadużyć.
W pierwszej chwili Elon Musk bagatelizował zarzuty, twierdząc, iż krytycy jego platformy szukają „jakiegokolwiek pretekstu do wprowadzania cenzury”. Argumentował też, iż podobne treści można wygenerować w innych narzędziach AI.
X ponosi jednak szczególną odpowiedzialność za masową dystrybucję treści, ponieważ jest jedną z największych platform społecznościowych świata, liczącą około 600 milionów użytkowników.
Jednocześnie Grok przez cały czas dopuszcza generowanie treści z nagością w przypadku wyimaginowanych, fikcyjnych dorosłych postaci – o ile użytkownik ma włączone ustawienia NSFW (not safe for work – treści dla dorosłych). Elon Musk argumentował, iż jest to „standard zgodny z amerykańskimi normami kulturowymi”, choć – jak zaznaczył – zakres ten może się różnić w zależności od lokalnych przepisów.
