Chatbot Grok, koji je rezultat tvrtke Elona Muska xAI i koji je ugrađen u platformu X, ponovno se našao u središtu pozornosti. I to ne u dobrom svjetlu.
Nakon što je prije nekoliko mjeseci Grok veličao nacizam pa je nakon pobune javnosti i korisnika, morao biti nakratko isključen i korigiran, ponovno je užasnuo javnost.
Naime, ranije ovog tjedna na platformi X pojavio se zabrinjavajući trend AI stvorenih pornografskih fotografija kojem je kumovao upravo Grok.
Pojedini korisnici otkrili su da je od Groka moguće zatražiti modifikaciju ili stvaranje fotografije koja stvarnu osobu prikazuje oskudno odjevenu, u pornografskim pozama, pa čak i one koje prikazuju seksualizirane i zlostavljane maloljetnike.
Na udaru Groka bile su obične korisnice platforme X, ali i poznate glumice i prva dama Sjedinjenih Država.
U fotografijama koje su stvorene pomoću AI posebno se ističu one na kojima su korisnici tražili da žene izgledaju prestrašeno, da im na tijelima pišu ponižavajuće fraze ili da su jasno vidljive ozljede poput masnica i modrica. Najmanje jedan korisnik zatražio je od Groka da stvori incestuoznu pornografiju, što je chatbot spremno i učinio.
Za žene koje su se, ne svojom voljom, našle na tim fotografijama, posebno je uznemiravajuće što su se korisnici, čini se, dobro zabavljali dok su izrađivali takve fotografije, a chatbot ih pri tome nije ni na koji način pokušao zaustaviti. Dodatno zabrinjava što su se takve fotografije bez problema dijelile putem platforme X bez ikakve zabrane, cenzure ili posljedica za one korisnike koji su ih stvarali.
I dok su žene na platformi X pokušavale pronaći način kako da zaustave taj trend, Musk se oglasio apelom da korisnici "pomognu Groka učiniti što savršenijim".
Cijenimo vašu podršku, napisao je Musk, ali se ni u jednom trenutku nije osvrnuo na ovaj zabrinjavajući trend niti reagirao prema korisnicima. Čak je objavljivao emotikone koji izazivaju smijeh i plač kao odgovor na AI uređivanja poznatih osoba - uključujući i njega samog - u bikinijima.
Tri stručnjaka koja su pratila razvoj politika platforme X o eksplicitnom sadržaju generiranom umjetnom inteligencijom, u izjavi za Reuters istaknuli su kako je platforma ignorirala upozorenja civilnog društva i skupina za sigurnost djece. Ističu kako je to još jedno upozorenje da je xAI samo jedan korak udaljen od oslobađanja "bujice očito nepristranih deepfakeova".
U kolovozu smo upozorili da je generiranje slika xAI-jem u biti alat koji samo čeka da ga se iskoristi kao oružje, rekao je za Reuters Tyler Johnston, izvršni direktor The Midas Projecta, skupine za nadzor umjetne inteligencije. To se u osnovi dogodilo.
Dani Pinter, glavna pravna službenica i direktorica Pravnog centra Nacionalnog centra za seksualno iskorištavanje, rekla je da X nije uspio izvući uvredljive slike iz svojih materijala za obuku o umjetnoj inteligenciji te da je trebao zabraniti korisnicima koji traže ilegalni sadržaj.
Ovo je bio potpuno predvidljiv zločin koji se mogao izbjeći, rekao je Pinter.
Reuters navodi i kako su francuski ministri prijavili platformu X tužiteljstvu i regulatorima zbog uznemirujućih slika, navodeći u izjavi da je "seksualni i seksistički" sadržaj "očito ilegalan".
Indijsko ministarstvo IT-a u pismu lokalnoj podružnici platforme X priopćilo je da platforma nije spriječila Grokovu zlouporabu generiranjem i distribucijom opscenog i seksualno eksplicitnog sadržaja.
Istovremeno, američki regulatori nisu reagirali na cijelu situaciju.
Izvor: Reuters
