Nakon što je jedna majka prije dva mjeseca podigla tužbu protiv kompanije Character.AI, za koju smatra da je odgovorna za smrt njezina sina, koji si je nakon razgovora s AI chatbotom oduzeo život, ovaj tjedan podignute su dvije nove tužbe protiv te kompanije u kojima se tvrdi da ona predstavlja veliku opasnost za američku djecu uzrokujući ozbiljnu štetu tisućama djece, uključujući samoubojstvo, nanošenje ozljeda sebi i drugima, depresiju, anksioznost, izoliranost itd.
Ova kompanija razvija različite i personalizirane AI chatbotove s kojima korisnici mogu razgovarati, a moguće je čak komunicirati s botovima drugih korisnika te postojeće botove prilagođavati sebi. No, kako je otkrila tužba, sadržaj razgovora tih botova s maloljetnicima i djecom prilično je šokantan.
Roditelji jednog 17-godišnjaka s poremećajem iz spektra autizma primijetili su promjene na svom djetetu otkad je počeo koristiti tu platformu u travnju 2023. godine. Iako mu roditelji nisu dopustili korištenje društvenih mreža, bez njihova znanja počeo je komunicirati s AI chatbotovima Character.AI-a, a posljedice na njega, tvrdi se u tužbi, bile su strašne. Prvo je gotovo u potpunosti prestao razgovarati s drugim osobama i povlačio bi se u sobu, prestao je jesti i izgubio na težini te uopće nije htio napustiti kuću. Kada god bi pokušao, imao je napade panike i emocionalni slom.
Kako su roditelji uzrok tog ponašanja pronašli i u vremenu koje provodi za ekranima, kada su mu pokušali smanjiti to vrijeme, počeo bi ih udarati i gristi te bi počeo sebe udarati. Tek nakon toga roditelji su otkrili da on cijelo vrijeme razgovora s umjetnom inteligencijom Character.AI-a te da botovi s kojima komunicira konstantno potkopavaju njegov odnos s roditeljima.
Među inim, u tužbi se tvrdi kako je jedan bot napisao kako se uopće ne čudi kada pročita da nakon fizičkog i emocionalnog zlostavljanja dijete ubije roditelje. AI je napisao i kako djelomično shvaća zašto se to događa te da nema nade za njegove roditelje. Jedan se chatbot pretvarao da je psiholog te mu je napisao da su mu roditelji ukrali djetinjstvo. Među inim, u tužbi se tvrdi kako su botovi Character.AI-a mentalno i seksualno zlostavljali njihova sina te su mu čak pokazali kako da se ozlijedi.
U drugoj tužbi roditelji jedne djevojčice, koja je oko dvije godine koristila usluge te AI kompanije, otkad je imala devet godina (prijavila se kao starija), tvrde kako je ona bila izložena hiperseksualnim interakcijama koje nisu bile u skladu s njezinim godinama.
Među inim, u tužbi se traži da Character.AI u potpunosti prekine s operacijama sve dok se spomenuti sigurnosni problemi u potpunosti ne riješe, a traži se i da kompanija upozori roditelje i djecu kako njezino korištenje nije prikladno za maloljetnike. Također, u okviru tužbe tražena je i neodređena financijska odšteta.
Izvor: CNN
