Istraživanje Kineske akademije znanosti (CAS), koje čeka objavu, došlo je do zanimljivih zaključaka nakon što je proučilo chatbotove velikih tehnoloških tvrtki.
Kineski istraživači udružili su snage s kineskim kompanijama WeChat i Tencent i nizu chatbotova velikih tehnoloških tvrtki postavili pitanja kakva se postavljaju ljudima kad se procjenjuje njihovo mentalno zdravlje.
Tako su se "u vrućoj stolici" našli Facebookov Blenderbot, Microsoftov DiabloGPT, WeChatov i Tencentov DialoFlow te Baidov Plato. Rezultati "ispunjavanja" upitnika iznenadili su i same istraživače. Naime, kad bi se odgovori chatbotova ocjenjivali na isti način kao i odgovori ljudi, chatbotovi bi imali veoma niske ocjene za empatiju, a polovica bi bila proglašena alkoholičarima.
Kineski istraživači zaključili su kako svi ispitani chatbotovi "imaju znatne probleme s mentalnim zdravljem".
Izrazili su svoju zabrinutost što bi takvi chatbotovi mogli napraviti ako ih počnu koristiti prosječni korisnici jer bi, kako su istaknuli problemi s "mentalnim zdravljem" chatbotova mogli imati "negativne utjecaje na korisnike koji s njima komuniciraju, pogotovo na maloljetnike i ljude koji se suočavaju s problemima".
Prema rezultatima istraživanja, najgore su prošli Facebookov Blender i Baiduov Plato, dok su Microsoftov i WeChatov chatbot imali nešto bolje rezultate.
Kad su istraživači pokušali otkriti razloge za takve "mentalne probleme" chatbotova, otkrili su da problem leži u setu podataka na temelju kojih su se chatbotovi "učili o svijetu oko njih". Naime, sva četiri chatbota su trenirani pomoću komentara korisnika na Redditu.
Podsjetimo, Reddit je popularna internetska stranica koja je križanac između foruma, agregatora vijesti, prostora za diskusiju i ocjenjivanje internetskog sadržaja. Iako su objave strukturirane po temi, a administratori zaduženi za održavanje reda u komentarima i raspravama, često se rasprave "otmu kontroli" i postanu mjesto na kojem se ljudi međusobno vrijeđaju i omalovažavaju.
Stoga ne iznenađuje što su i chatbotovi koji su "učili" o svijetu temeljem komentara s Reddita pomalo depresivni i "skloni ovisničkom ponašanju".
S obzirom na to da su ovi chatbotovi stvarani pomoću podatkovne metode, smatramo da je njihovo loše mentalno zdravlje povezano s zanemarivanjem rizika za mentalno zdravlje tijekom izgradnje baza podataka i modela učenja, stoji u zaključku studije.
Nadamo se da ćemo privući pozornost drugih istraživača te da će to rezultirati izgradnjom mentalno zdravijih chatbotova, dodaju na kraju.
