Posljednjih godina razvoj umjetne inteligencije u fokusu je znanstvenika i istraživača. I iako nas znanstvenici uvjeravaju kako smo još daleko od svjesne umjetne inteligencije koja može samostalno donositi odluke, dodaju i kako će do toga zasigurno doći - u budućnosti.

No umjetna inteligencija koja se trenutačno razvija često ne reagira baš najbolje. Točnije, ovisno o setu podataka koji su korišteni prilikom njezina učenja i u komunikaciji s ljudima tijekom daljnjeg razvoja, umjetna inteligencija može se razvijati i u pogrešnom smjeru. Dovoljno je samo podsjetiti na Metinu umjetnu inteligenciju koja je izvrijeđala šefa te tvrtke Marka Zuckerberga.

Mark Zuckerberg Metin chatbot izvrijeđao šefa: Smatra da je Zuckerberg loš i jeziv čovjek

Neuroznanstvenik s Princetona, Michael Graziano, u svom je eseju upozorio kako su bez svijesti, botovi koje pokreće umjetna inteligencija osuđeni da budu opasni sociopati koji bi, dodaje, mogli predstavljati stvarnu opasnost za ljude.

Graziano je u eseju koji je objavio The Wall Street Journal upozorio kako su danas alati temeljeni na umjetnoj inteligenciji dostupniji nego ikad. No to ne znači da su bezgrešni i da im se treba bezrezervno vjerovati. Baš naprotiv, ti će algoritmi veoma brzo prilagoditi svoje ponašanje da odgovara njima. Stoga, piše Graziano, trebamo poraditi na razvijanju svijesti umjetne inteligencije kako bi ona bila što usklađenija s našim vrijednostima.

Svijest je dio alata koje nam je evolucija dala da postanemo empatična, prosocijalna vrsta, piše Graziano. Bez toga bismo nužno bili sociopati jer nam nedostaju alati za prosocijalno ponašanje.

Statua Stevea Jobsa na izložbi Steve Jobs "vratio" se iz mrtvih: "Lijepo te je vidjeti, prijatelju. Nedostaje mi ovo"

Naravno, to ne znači da su svi chatbotovi s kojima ljudi dolaze u kontakt potencijalni psihopati koji će iskočiti iz ekrana i ubiti ih, ali bi trebalo zadržati kontrolu nad svime što rade.

Želimo li pak umjetnu inteligenciju učiniti "poslušnijom", smatra Graziano, trebali bismo joj pomoći da shvati kako na svijetu ima i drugih "umova" osim nje. Međutim, tu dolazi do filozofskog problema - kako definirati kad je nešto (ili netko) svjestan?

Ako želimo znati je li računalo svjesno, tada moramo testirati razumije li računalo kako svjesni umovi komuniciraju, tvrdi Graziano. Drugim riječima, trebamo obrnuti Turingov test: da vidimo može li računalo reći razgovara li s čovjekom ili drugim računalom.

Umjetna inteligencija, ilustracija Sljedeći korak u razvoju AI je svijest: "To bi zasjenilo sve što smo dosad napravili"

Uvjeren je da je to jedini način da čovječanstvo izbjegne razvoj sociopatske umjetne inteligencije.

Zasad su chatbotovi još uvijek ograničeni u svojim sposobnostima; oni su u biti igračke. Ali ako dublje ne razmislimo o strojnoj svijesti, za godinu ili pet godina mogli bismo se suočiti s krizom, upozorava na kraju Graziano.

Još brže do najnovijih tech inovacija. Preuzmi novu DNEVNIK.hr aplikaciju