Rasprave o tome što umjetna inteligencija može ili ne može i u kojoj mjeri, vode se gotovo otkako se umjetna inteligencija počela razvijati. Ono što je uvijek izazivalo strah i nedoumicu je pitanje - do koje točke čovjek može kontrolirati umjetnu inteligenciju i može li se ona, možda, oteti kontroli?
Upravo su to razmatrali istraživači s Max-Planck instituta za ljude i strojeve. U svom istraživanju istaknuli su kako nije moguće, u teoriji, predvidjeti poteze umjetne inteligencije.
Superinteligentan stroj koji kontrolira svijet zvuči kao nešto iz znanstvene fantastike. No već postoje strojevi koji obavljaju neke veoma važne zadatke, a da programeri ne mogu u potpunosti razumjeti kako su to naučili, istaknuo je jedan od autora studije Manuel Cebrian.
Dodaje kako bi, za predviđanje poteza superinteligencije trebalo prvo napraviti superinteligenciju, a to se neće dogoditi još neko vrijeme. S druge strane, znanstvenici već sad raspravljaju o metodama kojima bi se moglo kontrolirati umjetnu inteligenciju i superinteligenciju. Jedno od rješenja koje se spominje je izgradnja "virtualnog igrališta" koje bi bilo omeđeno "virtualnim zidovima" van koje superinteligencija ne bi mogla izaći. Točnije, superinteligencija bi mogla funkcionirati u kontroliranim uvjetima, bez pristupa internetu, kako se ne bi "odmetnula".
Druga je opcija stvaranje "virtualnog policajca" odnosno algoritma koji bi zaustavio umjetnu inteligenciju u slučaju da ona krene raditi nešto što bi naštetilo ljudima.
No, istraživači ističu kako bi bilo kakvo rješenje za ograničavanje superinteligencije koje se temelji na načelima robotske etike, bilo problematično. Umjetna inteligencija se stvara odnosno "uči" koristeći postojeće robotske zakone. Ali superinteligencija bi mogla tijekom tog učenja početi razvijati vlastite, neovisne zaključke, kako te zakone zaobići.
Sposobnost modernih računala da se prilagode koristeći sofisticirane algoritme za strojno učenje, čine stvaranje pretpostavki o eventualnom ponašanju superinteligencije, još težim, dodao je istraživač Iyad Rahwan.
Istraživači upozoravaju na još jedan problem vezan uz superinteligenciju. Naime, vjerojatno uopće nećemo biti svjesni da se superinteligencija razvila, jer će biti teško testirati i utvrditi tako nešto.
Međutim, istraživači se slažu u jednom - samo je pitanje vremena kad će se superinteligencija razviti, a u kojem će smjeru nakon toga krenuti, nitko (trenutno) ne može predvidjeti.
