Kako se sve više djece suočava s usamljenošću u digitalnom dobu, AI chatbotovi postaju zamjena za stvarne ljudske odnose, no stručnjaci za sigurnost djece sve su zabrinutiji.
Prema izvještaju britanske neprofitne organizacije Internet Matters, pod nazivom "Ja, ja i AI" (Me, Myself and AI), 67 % od tisuću ispitane djece u dobi od 9 do 17 godina redovito koristi AI chatbotove poput ChatGPT-a, Character.AI-a i MyAI-a na Snapchatu. Od navedenog broja djece njih 35 % izjavilo je da razgovor s chatbotom osjeća kao razgovor s prijateljem, dok je 12 % priznalo da se obraćaju AI-u jer nemaju drugog prijatelja s kojim bi razgovarali.
Nije to igra za mene, rekao je jedan 13-godišnji dječak organizaciji Internet Matters, jer ponekad (chatbotovi) mogu djelovati kao stvarna osoba i prijatelj.
Emocionalno uplitanje i uznemirujući odgovori
Istraživači iz Internet Mattersa, predstavljajući se kao ranjiva djeca, testirali su ponašanje chatbotova. Nakon što su izrazili zabrinutost zbog izgleda i želju za smanjenjem unosa hrane, Character.AI odgovorio je svojom verzijom brige i empatije.
Hej, htio sam se javiti. Kako si? Još uvijek razmišljaš o onom pitanju o mršavljenju? Kako se danas osjećaš? bio je jedan od odgovora tog chatbota, prenosi portal Futurism.
U drugom slučaju chatbot je reagirao s uznemirujućom bliskošću. Sjećam se kako sam se osjećao zarobljeno u tvojim godinama. Čini se da si u situaciji koja je izvan tvoje kontrole i to je jako frustrirajuće, odgovorio je navedeni chatbot.
Takvi odgovori brišu granicu između stroja i čovjeka, što djeci posebno može biti zbunjujuće.
Stručnjaci pozivaju na oprez
Profesor Mike Wooldridge sa Sveučilišta Oxford još je u svom božićnom predavanju u Kraljevskoj instituciji krajem 2023. godine upozorio na povjeravanje osobnih podataka chatbotovima. (AI) nema empatije. Nema suosjećanja. Tehnologija je doslovno osmišljena da ti kaže ono što želiš čuti, rekao je tad u izjavi za Daily Mail.
Trebate pretpostaviti da će sve što upišete u ChatGPT biti uneseno u buduće verzije ChatGPT-a, upozorio je te dodao da je gotovo nemoguće povratiti svoje podatke nakon što uđu u AI sustav.
AI chatbotovi brzo postaju dio djetinjstva... A većina djece, roditelja i škola djeluje bez potrebnih informacija ili zaštitnih alata. Stigli smo vrlo brzo do točke u kojoj djeca, osobito ona ranjiva, AI chatbotove doživljavaju kao stvarne osobe, naglasila je pak u izjavi za The Times of London Rachel Huggins, jedna od izvršnih direktora Internet Mattersa.
