Kada je 2016. godine sustav umjetne inteligencije AlphaGo pobijedio najboljeg igrača u popularnoj igri na ploči Go Leeja Sedola 4-1, mnogi su taj trenutak prozvali jednim od najznačajnijih pokazatelja koliko je AI napredovala. Nekoliko godina nakon toga Sedol se umirovio od igranja ove igre upravo zbog umjetne inteligencije te je tada komentirao kako je AI postala nepobjediva.
No čini se da ipak nije tako. Naime, nedavno je jedan Amerikanac uspio pobijediti umjetnu inteligenciju u čak 14 od 15 odigranih partija ove igre. Iako njegov protivnik nije bio AlphaGo (jer taj AI sustav nije dostupan javnosti), Kellin Pelrine pobijedio je sustav baziran na umjetnoj inteligenciji koji se smatra jednako sposobnim. Posebno je zanimljiv način na koji je uspio pobijediti.
Naime, iskoristio je do tada nepoznat propust u računalnim programima treniranim za igranje ove igre koji su bazirani na umjetnoj inteligenciji, pri čemu taj propust nije otkrio on, već - drugo računalo. Softver računala posebno je treniran kako bi otkrio ranjivosti sustava baziranih na AI, a koje bi se mogle iskoristiti da bi se pobijedila umjetna inteligencija u toj igri. Nakon više od milijun partija protiv sustava KataGo, softver je uspio pronaći tu ranjivost koju je Pelrine iskoristio u svojim dvobojima s umjetnom inteligencijom.
On kaže kako ta taktika, iako nije potpuno trivijalna, u biti nije niti preteška za učenje i mogao bi je iskoristiti i igrač srednje razine da pobjedi računalo. Go se smatra najkompleksnijom i najzahtjevnijom igrom na ploči za koju postoje brojne kombinacije pa je jako teško, odnosno kako naglašavaju na Ars Tehnici, nemoguće procijeniti sve potencijalne poteze protivnika.
Taktiku koju je Pelrine iskoristio, a protiv koje umjetna inteligencija nije imala odgovor, ljudima bi bilo jednostavno primijetiti, no AI se u tome nije snašla.
Kako je komentirao profesor računalnih znanosti s Berkeleyja Stuart Russell, na ovom primjeru možemo vidjeti “fundamentalne propuste” u sustavima strojnog učenja koji se koristi za treniranje umjetne inteligencije. Naime, takvi AI sustavi mogu prepoznati samo situacije kojima su prije bili izloženi, odnosno na kojima su trenirani te nemaju mogućnost generalizacije kao i ljudi. Ova nam situacija još jednom pokazuje kako smo prenaglili s pripisivanjem nadljudske inteligencije mašinama, objasnio je Russell.
