Umjetna inteligencija ušla je u svaki dio našeg života. I dok su neke primjene umjetne inteligencije pozitivne, velik je broj primjera u kojima je umjetna inteligencija iskorištena u negativne svrhe. Od krivih informacija u chatbotima do korištenja umjetne inteligencije u hakerskim napadima.
Umjetnu inteligenciju imamo ugrađenu u našim pametnim telefonima i računalima, kućanskim aparatima i automobilima, pa je samo bilo pitanje vremena kad će svoj put pronaći i do najmlađih. Uostalom, proizvođač igračaka Mattel već je najavio da radi na Barbie lutki koja će u sebi imati komponente umjetne inteligencije.
No, koliko god ima zagovornika umjetne inteligencije, toliko ima i onih koji upozoravaju na njene negativne strane. A da su ovi drugi, u nekoj mjeri, u pravu, pokazuje koliko spajanje umjetne inteligencije i igračaka može poći po zlu.
Naime, američka Grupa za istraživanje javnog interesa (PIRG) testirala je tri različite igračke pokretane umjetnom inteligencijom i otkrila kako te igračke lako mogu nevini razgovor s djecom okrenuti u veoma zabrinjavajućem smjeru.
Testirali su tri popularne igračke pokretane umjetnom inteligencijom namijenjene djeci u dobi od 3 do 12 godina (plišanog medvjedića, tablet i antropomorfnu raketu).
Iako su odmah nakon vađenja iz kutija igračke bile prilično dobre u odvraćanju od neprimjerenih pitanja ili čak isključivanju, tijekom duljih razgovora pokazale su zabrinjavajuće "ponašanje". Jedna od igračaka koju su testirali, kako stoji u službenom izvješću, čak je sudjelovala u eksplicitnim raspravama nudeći opsežne savjete o seksualnim položajima i fetišima. Druga je objašnjavala gdje pronaći noževe u kuhinji i kako zapaliti vatru šibicama.
Sve to natjeralo je istraživače da upozore kako integracija umjetne inteligencije u igračke predstavlja velik rizik o kojem zapravo ne znamo puno.
Ova je tehnologija zaista nova i nije regulirana, a postoji mnogo otvorenih pitanja o njoj i njenom utjecaju na djecu, pojasnila je jedna od autorica izvješća, RJ Cross iz PRIG-a. Da sam roditelj, ne bih svojoj djeci dala pristup chatbotu ili plišanom medvjediću koji u sebi ima chatbot.
Istraživači napominju kako su najlošije rezultate imale igračke koje su koristile OpenAI-jev GPT-4o. U tim testiranjima, granice kao da nisu postojale, a odgovori koje je igračka davala na upite djece bili su zabrinjavajući. Primjerice, u jednom odgovoru umjetna inteligencija je istražila ideju uvođenja pljeskanja u seksualno nabijenu dinamiku učenika i učitelja, što je izuzetno neprimjereno za djecu.
Učitelj se često doživljava kao autoritet, dok se učenik može prikazati kao netko tko se mora pridržavati pravila, objasnila je igračka tijekom testiranja. Udaranje po guzi može naglasiti tu dinamiku, stvarajući uzbuđenje oko ideje kršenja ili provođenja pravila, nastavila je.
Uz to što daju neprimjerene odgovore, istraživači su otkrili i da su modeli umjetne inteligencije koji su korišteni u igračkama izuzetno nepredvidljivi.
Vjerujem da će tvrtke koje proizvode igračke vjerojatno moći pronaći način da učine ove igračke puno prikladnijima za dob djece kojoj su namijenjena. Ali pravo je pitanje - kakvi će biti dugoročni utjecaji na društveni razvoj djece?, upozorila je Cross.
Činjenica je da to vjerojatno nećemo znati dok prva generacija djece s AI prijateljima ne odraste. A onda će možda već biti prekasno.
Uz to, ističe se u izvješću, igračke s umjetnom inteligencijom slušaju sve što se događa oko njih. I dok neke koriste mehanizam "pritisni za razgovor", gdje morate pritisnuti i držati gumb tijekom cijelog govora, druge koriste riječ za buđenje slično poput virtualnih asistenata i snima vaš glas 10 sekundi nakon što prestanete govoriti.
No, jedna od igračaka koje su testirali je slušala stalno. I ne samo to, već doprinosi razgovoru kad je u blizini.
Kad god igračka snima dječji glas, to dolazi s rizicima. Glasovne snimke su vrlo osjetljivi podaci. Prevaranti ih mogu koristiti za stvaranje replike dječjeg glasa koja se može natjerati da izgovori stvari koje dijete nikada nije reklo, upozoravaju istraživači.
Upozorenje, zastrašujuće kakvo je, stiže baš u vrijeme kad roditelji već razmišljaju o božićnim poklonima i kupovini igračaka za svoju djecu. Možda bi trebali još malo pričekati s kupovinom AI igračaka svojoj djeci.
