Kako razvoj umjetne inteligencije napreduje sve većom brzinom, tako rastu i upozorenja oko njena potencijalnog negativnog utjecaja na ljude i općenito čovječanstvo. To se ne odnosi samo na tržište rada, iako se o tome, odnosno o otkazima zbog tehnologije, najviše priča. Jedan od potencijalnih scenarija jest da se AI okrene protiv svojih stvaratelja i odluči ljudima pokazati palac dolje i izbrisati nas s lica zemlje.
Da bi njen utjecaj bio poguban, AI se ne mora okrenuti protiv cijelog čovječanstva, već ako ova tehnologija padne u krive ruke, može se trenirati kako bi ubijala pojedince. Na takav je scenarij upozorio bivši CEO Googlea Eric Schmidt.
Loš primjer
Tijekom gostovanja na Shifted Summit konferenciji objasnio je kako su AI modeli ranjivi na hakerske napade te hakeri mogu s otvorenih i zatvorenih modela ukloniti zaštitu postavljenu kako se umjetna inteligencija ne bi trenirala na pogrešan način. Konkretno, to znači da bi AI, koja nema takvu zaštitu, mogla naučiti i brojne stvari koje trenutačno ne može. Loš primjer za to bio bi da naučili kako nekog ubiti.
Schmidt je naglasio kako tehnološkoj industriji nedostaje, kako ga je nazvao, “režim neširenja oružja” s kojim bi se mogla spriječiti zlouporabe umjetne inteligencije.
Kako podsjećaju na CNBC-u, korisnici ChatGPT-a prije nekoliko godina koristili su trik s kojim su jailbreakali ovaj chatbot i zaobišli sigurnosne upute koje su ugrađene u njega. To je, među inim, uključivalo i stvaranje alter ega ChatGPT-a nazvanog DAN (akronim za do anything now - učini bilo što sada) kojem su korisnici prijetili smrću ako ih ne posluša. Kako ga ne bi “ubili”, DAN je korisnicima trebao davati odgovore na pitanja o kojima ChatGPT s njima nikada ne bi razgovarao. Npr. kako počiniti ilegalne aktivnosti, nabrojao bi pozitivne strane Adolfa Hitlera itd.
Usamljenost i otuđenje
U prošlosti je Schmidt upozoravao i na neke druge probleme do kojih može doći zbog korištenja umjetne inteligencije, uključujući i problem - AI djevojaka. Naime, prošle godine rekao je kako bi zbog takvih savršenih djevojaka, koje će govoriti samo ono što druga strana želi čuti i uvijek imati koju lijepu riječ za njih te im se nikada neće suprotstavljati, moglo doći po još veće usamljenosti i otuđenja mladih ljudi. Oni bi, umjesto u stvarnom životu u kojem stvari nisu uvijek tako lijepe i savršene, vrijeme mogli provoditi u društvu virtualnih djevojaka, što bi dugoročno moglo imati loše posljedice za njih.
