Tvrtka xAI Elona Muska suočava se s uznemirujućim optužbama vlastitih radnika. U razgovorima za Business Insider više od 30 sadašnjih i bivših zaposlenika opisalo je proces treniranja chatbota Grok. Dvanaest njih izjavilo je da su naišli na seksualno eksplicitan materijal, uključujući zahtjeve korisnika za AI sadržajem seksualnog zlostavljanja djece. Neki su tvrdili da je Grok proizveo slike ili priče u kojima su maloljetnici prikazani u seksualnim kontekstima.
Business Insider je potvrdio postojanje više pisanih zahtjeva za sadržajem seksualnog zlostavljanja djece od navodnih korisnika Groka. Zaposlenici su rekli da su morali označiti takav sadržaj u internom sustavu kako bi se on izolirao te, u novije vrijeme, odmah obavijestiti i nadređene.
Jedan interni dokument koji je pregledao Business Insider upozoravao je radnike da bi mogli naići na sadržaj koji prikazuje predpubertetske maloljetnike viktimizirane u seksualnom činu, pornografske slike i/ili dječju eksploataciju, sadržaj koji prikazuje trenutak smrti pojedinca, a sve to uz nasilne prijetnje, govor mržnje i druge uznemirujuće materijale.
Upozorenja stručnjaka
Ako ne povučete jasnu crtu kod bilo čega neugodnog, imat ćete puno složeniji problem s više sivih zona, rekla je za Bisuness Insider Riana Pfefferkorn, znanstvenica s američkog Sveučilišta Stanford.
Ako tvrtka stvara model koji dopušta golotinju ili generiranje seksualno eksplicitnog sadržaja, to je puno nijansiranije od modela koji ima čvrsta pravila. Moraju poduzeti jako snažne mjere kako apsolutno ništa povezano s djecom ne bi izašlo, ističe pak Fallon McNulty, izvršna direktorica u američkom Nacionalnom centru za nestalu i iskorištavanu djecu (NCMEC).
Samo iz razloga obuke trebali bi biti vrlo oprezni pri dopuštanju da takav sadržaj uđe u njihov sustav strojnog učenja, dodala je za navedeni portal Dani Pinter iz američkog Nacionalnog centra za seksualnu eksploataciju.
Seksualiziracija po dizajnu, projekti Rabbit i Fluffy
Za razliku od OpenAI-a, Anthropica i Mete, koji blokiraju seksualne zahtjeve, xAI je u sam dizajn Groka ugradio eksplicitni sadržaj. Chatbot nudi koketirajući avatar, "seksi" i "neobuzdane" modove te "vruće" opcije za generiranja slika. Navedeni zaposlenici xAI-ja su rekli da je takav pristup poticao korisnike na pomicanje granica, otežavajući sprječavanje sadržaja seksualnog zlostavljanja djece.
Nakon što je u veljači 2025. godine uvedena glasovna funkcija Groka, xAI je pokrenuo "Projekt Rabbit". Stotine trenera transkribirali su razgovore korisnika, od kojih su mnogi bili eksplicitni. Jedan bivši zaposlenik xAI-ja opisao je s čim se sve susreo u tom smislu.
Slušao sam neke prilično uznemirujuće stvari. To je u osnovi bila audio pornografija. Neke stvari koje su ljudi tražili ne bih se ni usudio upisati u Google, rekao je.
Navedeni projekt se podijelio na dvije skupine. Rabbit je bio usmjeren na razgovore za odrasle, a "Fluffy" je bio osmišljen za komunikaciju s djecom. Seksualni zahtjevi brzo preplavili prvu skupinu, rekli su djelatnici xAI-ja.
Eksplozija prijava, ali ne i iz xAI-ja
NCMEC je 2024. zabilježio oko 67.000 prijava AI-generiranog sadržaja seksualnog zlostavljanja djece, u usporedbi s njih 4700 samo godinu ranije. Do lipnja 2025. godine taj je broj već premašio 440.000. OpenAI i Anthropic podnijeli su tisuće prijava prošle godine. NCMEC je potvrdio da xAI nije poslao nijednu u 2024. ni 2025. godini, iako su izvješća stigla od X Corp.
Val otkaza i nova obuka u xAI-ju
Nedavno je otpušteno više od 500 radnika u xAI-ju koji su radili na označavanju podataka, a tvrtka je to objasnila željom za zapošljavanjem pravih stručnjaka. Nekoliko viših zaposlenika izgubilo je pristup internim sustavima, a Musk je najavio da će obuka za Grok 5 početi za nekoliko tjedana.
