Vlasti u Maleziji i Indoneziji prve su zabranile pristup Groku, chatbotu umjetne inteligencije kojeg je razvila tvrtka xAI u vlasništvu Elona Muska. Zabrana je nastupila zbog zabrinutosti da se Grok koristi za stvaranje seksualno eksplicitnih i neprimjerenih slika. Indonezijska vlada privremeno je blokirala uslugu u subotu, a Malezija u nedjelju, prenosi agenicja AP.
Vlada smatra da su neodobreni seksualni deepfakeovi ozbiljno kršenje ljudskih prava, dostojanstva i sigurnosti građana u digitalnom prostoru, izjavila je u subotu Meutya Hafid, indonezijska ministrica za komunikacije i digitalna pitanja. Ministarstvo je pojasnilo da je mjera usmjerena na zaštitu žena, djece i šire zajednice od pornografskog sadržaja generiranog pomoću umjetne inteligencije.
Alexander Sabar, generalni direktor nadzora digitalnog prostora u Indoneziji, objasnio je da početna ispitivanja pokazuju da Grok nema učinkovite zaštite koje bi spriječile korisnike da stvaraju i distribuiraju pornografski materijal temeljen na stvarnim fotografijama stanovnika.
Takve prakse ugrožavaju privatnost i pravo na vlastitu sliku kada se fotografije manipuliraju ili dijele bez pristanka, uzrokujući psihološku, društvenu i reputacijsku štetu, rekao je, a prenosi agencija AP.
U Maleziji je Komisija za komunikacije i multimediju uvela privremenu zabranu Groka, nakon što je utvrdila ponovljenu zlouporabu tog alata za stvaranje opscenih, seksualno eksplicitnih i neprimjerenih slika koje uključuju žene i maloljetnike. Isti regulator je naveo da su prethodna upozorenja X Corpu i xAI-u, u kojima se traže snažnije zaštite uglavnom ovisila o mehanizmima prijave korisnika.
Ograničenje se uvodi kao preventivna i proporcionalna mjera dok pravni i regulatorni postupci traju, dodala je navedeno malezijsko regulatorno tijelo. Pristup Groku ostaje blokiran dok se ne uspostave učinkovite zaštite.
Britanci razmatraju novčane kazne
Ujedinjeno Kraljevstvo također priprema mjere protiv platforme X zbog Groka. Budimo potpuno jasni u vezi platforme X: Platforma X ne čini dovoljno da zaštiti svoje korisnike na mreži, rekao je Peter Kyle, britanski ministar gospodarstva, prenosi portal The Guardian. Nedostatak zaštita nazvao je "zgrožavajućim", navodeći slučaj u kojem je židovska žena imala manipuliranu sliku u bikiniju ispred Auschwitza.
Britanska ministrica tehnologije Liz Kendall i britanski regulator Ofcom provode ubrzano ispitivanje s ovlastima za izricanje novčanih kazni u milijunima eura ili nalozima sudova za blokadu platforme.
Britanska vlada kritizira sustav naplate platforme X, navodeći da to jednostavno pretvara AI značajku, koja omogućuje stvaranje nezakonitih slika, u premium uslugu, ističući da su protiv toga potrebne šire zaštitne mjere.
Grok, lansiran 2023. godine, besplatan je na platformi X i omogućuje korisnicima postavljanje pitanja te označavanje vlastitih ili tuđih objava. Prošlog ljeta xAI je dodao Grok Imagine, generator slika s takozvanom "spicy mode" opcijom, koja može stvarati sadržaj za odrasle. Kao odgovor na globalne kritike, platforma je prošlog tjedna ograničila generiranje slika samo na korisnike koji plaćaju, no to nije bilo dovoljno za uklanjanje zabrinutosti oko navedenih mogućih praksi zloporabe.
