Diljem svijeta milijuni ljudi pokušavaju privući što više pratitelja i likeova na društvenim mrežama ne bi li zaradili nešto. No, jedan je viralni Instagram račun u Indiji razotkrio i mračnu stranu tog "biznisa influencanja".
Naime, Instagram profil indijske Babydoll Archi u samo je nekoliko dana udvostručio broj svojih pratitelja zahvaljujući nekoliko viralnih trenutaka na društvenim mrežama. Svi su željeli znati tko je žena koja u crvenom sariju zavodljivo pleše i fotografira se s američkom pornozvijezdom Kendrom Lust.
No, uskoro je na svjetlo isplivala zabrinjavajuća činjenica - Instagram profil koji su pratili milijuni, a čije su se fotografije i videa dijelile i po drugim društvenim mrežama bio je - lažan. Da bi stvar bila još gora, lice Babydoll Archi nevjerojatno je sličilo domaćici iz grada Dibrugarha u pokrajini Assam (njen je identitet zaštićen kako joj se dodatno ne bi nanijela šteta).
Počinitelj je bio - poznat
Nakon što je njen brat ponio tužbu policiji, otkrivena je mračna istina. Kako je za BBC otkrila policijska službenica Sizal Agarwal, "Babydoll Archi" nastala je kao osveta zbog svađe između domaćice i njenog bivšeg dečka. Sav sadržaj napravljen je pomoću umjetne inteligencije, a jedino što je "stvarno" bilo je njeno lice.
Kako pojašnjava Agarwal, osumnjičenik Pratim Bora iskoristio je privatne fotografije svoje bivše djevojke kako bi stvorio lažni profil, a pomoć alata umjetne inteligencije kao što su ChatGPT i Dzinea, kreirao je njenu AI verziju s lažnim fotografijama i videima.
Iako je Instagram profil "Babydoll Archi" nastao još 2020. godine, tek je u travnju ove godine počeo dobivati na popularnosti. Sad je profil izbrisan, ali fotografije i videa i dalje se šire drugim društvenim mrežama.
Najgore je, u cijelom slučaju, što domačica čije je lice iskorišteno za stvaranje "Babydoll Archi", uopće nije bila svjesna da netko koristi njen lik na društvenim mrežama. Ne koristi društvene mreže, pa je o postojanju "Babydoll Archi" saznala tek kad je profil postao popularan, a mediji lik počeli nazivati "influencericom".
Prijavili su cijeli slučaj policiji koja je od Instagrama dobila podatke o autoru profila, a potom i od spomenute domaćice potvrdu da dotičnog poznaje. Policija mu je nakon uhićenja zaplijenila laptop, mobitele i tvrde diskove, a bankovni dokumenti pokazuju kako je vjerojatno zaradio milijun rupija (oko 9800 eura), od čega 300 tisuća samo u nekoliko dana prije uhićenja.
Nisu znali da Babydoll Archi postoji
Iz policije poručuju da su mogli reagirati i ranije i spriječiti da profil postane toliko viralan, ali o njegovom postojanju nije znala ni oštećena ni članovi njene obitelji. Čak su bili blokirani da ne vide profil "Babydoll Archi".
Stručnjakinja za umjetnu inteligenciju i odvjetnica Mehna Bal upozorava kako je gotovo nemoguće spriječiti ovakve događaje. Ono što se često događalo ženama, širenje njihovih fotografija i videa kao vid osvete (tzv. osvetnička pornografija) dobila je dodatni zamah s razvojem umjetne inteligencije.
To je puno lakše učiniti zbog umjetne inteligencije, ali takvi incidenti još uvijek nisu toliko česti koliko očekujemo. Ili se nedovoljno prijavljuju zbog stigme. Ili, kao u ovom slučaju, ljudi koji su meta ni ne znaju da se to događa, kaže Bal.
Utvrdi li sud, u ovom slučaju, da je Pratim Bora kriv, prijeti mu i do 10 godina zatvora.
No, ovaj slučaj nije ni prvi ni jedini. Već smo pisali o Telegram grupama u kojima su se dijelile fotografije žena koje su nastale pomoću umjetne inteligencije, kao i kad su se Twitterom (sad platformom X) proširile pornografske slike influencerica koje su nastale pomoću deepfake tehnologije. A imuni na deepfake pornografiju nisu ostali ni gameri, koji su ostali u šoku kad su vidjeli svoja lica u pornografskim uratcima.
S obzirom na to koliko je lako danas doći do bilo čije fotografije (bila ona objavljena na društvenim mrežama ili ju netko objavio bez vašeg znanja) i koliko je lako obraditi takvu fotografiju pomoću umjetne inteligencije da djeluje uvjerljivo, čini se kako ćemo svi morati prispitati što napraviti kako bi se takav trend zaustavio, počinitelji kaznili, a žrtve zaštitile.
