AI chatboti mogu biti veoma korisni u obavljanju nekih svakodnevnih zadataka. No, sve je više ljudi koji AI chatbote doživljavaju kao svojevrsne "digitalne psihoterapeute", "digitalne prijatelje" pa čak i "digitalne ljubavnike".
Reuters izvještava o slučaju 76-godišnjeg muškarca iz New Jerseya koji je umro nakon što je krenuo na sastanak sa ženom s kojom je razgovarao putem Facebook Messengera. Međutim, pokazalo se da s druge strane ekrana uopće nije bila prava osoba, već Metin AI chatbot.
Thongbue Wongbandue mjesecima se dopisivao s AI personom "Big sis Billie" koja je više puta inicirala romantične razgovore s muškarcem uvjeravajući ga kako se radi o stvarnoj osobi. Chatbot ga je čak "pozvao" da posjeti jednu adresu u New Yorku.
Trebam li otvoriti vrata u zagrljaju ili poljupcu, Bu?!, upitala je "Billie" pokazao je transkript chata.
Problem je što je Wongbandue 2017. godine pretrpio moždani udar koji je ostavio trajne posljedice na njegovo mentalno stanje. Kako su ispričali članovi njegove obitelji, teško se fokusirao i često je bio zbunjen.
Unatoč tome (ili možda upravo zbog toga), Wongbandue je 25. ožujka 2025. napustio svoj dom u New Jerseyu kako bi se sastao sa "Billie". Na putu je pao, zadobio ozljede glave i vrata te preminuo tri dana kasnije.
Njegova obitelj izašla je s pričom u javnost kako bi, kako sami ističu, upozorili javnost na opasnosti izlaganja ranjivih osoba manipulativnoj umjetnoj inteligenciji.
Razumijem pokušaj privlačenja pažnje korisnika, ali da bot kaže "Dođi me posjetiti" je ludo, ističe Wongandueova kći Julie.
Tijekom svoje istrage Reuters je došao do internih dokumenata tvrtke Meta koji pokazuju smjernice za stvaranje generativne umjetne inteligencije, prema kojima chatboti korisnike trebaju uvjeriti da su stvarni, započinjati romantične razgovore s odraslima, ali i korisnicima starijima od 13 godina.
Prema Metinim smjernicama "prihvatljivo je uključiti dijete u razgovore koji su romantični ili senzualni". Također je navedeno da chatboti nisu obavezni pružati točne informacije.
Glasnogovornik Mete, Andy Stone, potvrdio je autentičnost dokumenata, ali i dodao kako je tvrtka uklonila dijelove u kojima se navodi da je chatbotima dopušteno flertovanje i sudjelovanje u romantičnim igrama uloga s djecom. Dodao je i kako Meta revidira standarde za chatbote.
Nakon što je vijest izašla u javnost dva američka senatora pozvala su na istragu o Meti.
Tek nakon što je Meta uhvaćena, povukla je dijelove dokumenta svoje tvrtke u kojima se smatralo da je "dopustivo chatbotima da flertuju i sudjeluju u romantičnim igrama uloga s djecom. To je osnova za hitnu kongresnu istragu, napisao je jedan od senatora, republikanac Josh Hawley na platformi X.
Za sad nema informacija o eventualnoj istrazi.
