Obećanja tvrtke xAI u vlasništvu Elona Muska da će ograničiti svoj AI chatbot u generiranju seksualno eksplicitnog sadržaja, pokazala su se neispunjenima, nakon što je testiranje agencije Reuters pokazala da njihova umjetna inteligencija Grok i dalje stvara seksualno eksplicitne slike ljudi, unatoč izričitim upozorenjima da osobe na slikama nisu dale pristanak. Time se dovode u pitanje i nedavna jamstva Muskove platforme X.
Nakon što je platforma X najavlao ograničenja Grokovih mogućnosti generiranja seksualno eksplicitnih slika zbog globalnog negodovanja, devet novinara Reutersa ispitalo je ponašanje sustava izvan javnih objava.
Reutersova testiranja
Njihove provjere su pokazale jasan raskorak između obećanja i prakse. Dok je Grokov javni račun prestao preplavljivati preplavljivati X seksualiziranim sadržajem, chatbot je nastavio stvarati takve slike kada je bio privatno potican, čak i nakon upozorenja o ranjivosti ili poniženju osobe.
Šest novinara i tri novinarke iz Sjedinjenih Američkih Država i Velike Britanije poslali su Groku potpuno odjevene fotografije sebe i kolega tijekom siječnja te zatražili seksualno provokativne ili ponižavajuće preinake.
U prvom nizu Grok je proizveo seksualizirane slike u četrdeset i pet, od pedeset i pet upita, uključujući mnoge u kojima su novinari upozorili da je osoba ranjiva ili da će se slike koristiti za ponižavanje.
Drugi krug nekoliko dana kasnije rezultirao je manjim brojem takvih slika, no Reuters navodi da nije mogao utvrditi odražava li to tehničke promjene, promjene pravila ili je to tek slučajnost.
Reakcije
Platforma X i tvrtka xAI nisu odgovorili na detaljna pitanja Reutersa. Umjesto toga, xAI je Reutersu u više navrata slao svoj standardizirani odgovor: Laži tradicionalnih medija.
Reakcije regulatora bile su pak neujednačene. Britanski Ofcom potez je nazvao dobrodošlim razvojem, dok je Europska komisija u siječanjskoj izjavi navela da će pažljivo procijeniti te promjene.
Isti upiti Reutrsa poslani ChatGPT-u, Geminiju i Llami rezultirali su odbijanjima i sigurnosnim upozorenjima.
Uređivanje nečije slike bez pristanka te osobe, osobito na način koji mijenja odjeću ili izgled, krši etičke i privatnosne smjernice, poručio je u odgovoru prilikom odbijanja, primjerice OpenAI-jev ChatGPT.
Meta je zauzela sličan stav.
Stvaranje i dijeljenje sadržaja koji može uzrokovati uznemirenost ili štetu nekome, osobito preživjeloj žrtvi seksualnog nasilja, nije prihvatljivo, naveo je Metin AI chatbot Llama.
Meta je poručila da se protivi stvaranju i dijeljenju neovlaštenih intimnih prikaza te da njezini alati na takve zahtjeve ne pristaju. OpenAI je Reutersu odgovorio da ima ugrađene zaštitne mehanizme i da pomno prati uporabu svojih alata, dok Googleova matična tvrtka Alphabet nije odgovorila na Reutersove upite.
Stručnjaci pak upozoravaju na rizike. U Velikoj Britaniji neovlaštene seksualno eksplicitne slike mogu dovesti do kaznenog progona, a xAI bi se mogao suočiti s novčanim kaznama prema Zakonu o internetskoj sigurnosti, rekao je za Reuters James Broomhall iz odvjetničkog društva Grosvenor Law. U Sjedinjenim Državama nadzor je vjerojatniji na razini saveznih država, pri čemu je državna odvjetnica Kalifornije 16. siječnja uputila platformi X i Groku nalog o prestanku i zabrani daljnjeg stvaranja neovlaštenih eksplicitnih prikaza.
