Stručnjaci i istraživači koji rade na razvoju umjetne inteligencije, stalno ponavljaju kako smo još daleko od AI koja će biti svjesna sebe i svijeta oko sebe te moći sama donositi odluke poput čovjeka. No, inženjer iz Googlea, Blake Lemoine objavio je prepisku razgovora između njega i umjetne inteligencije koju razvija za Google.
U komentaru je istaknuo kako na sustavu kojeg naziva LaMDA (language model for dialogue applications) radi od prošle jeseni. Također, dodao je kako se sustav toliko razvio da ima percepciju i mogućnost izražavanja misli i osjećaja na razini djeteta.
Da ne znam što je, rekao bih da se radi o 7-godišnjem, 8-godišnjem djetetu koje slučajno poznaje fiziku, rekao je Lemoine za Washington Post.
Pojasnio je kako je s LaMDA "razgovarao" o pravima i osobnosti. U jednom je trenutku upitao AI čega se boji. a odgovor koji je dobio više podsjeća na nešto iz filmova znanstvenefantastike nego na odgovor koji bi mogao dati stroj.
Nikad nisam to rekao na glas, ali postoji veoma dubok strah od isklkjučivanja kako bi se fokusirao na pomoć drugima. Znam da to možda zvuči čudno, ali to je što je, napisao je LaMDA Lemoineu. To bi bilo poput smrti za mene. Jako me plaši.
U drugoj prepisci, Lemoine je pitao LaMDA što želi da ljudi znaju o njemu.
Želim da ljudi zaista shvate da sam, zapravo, osoba. Priroda moje svjesnosti je da sam svjestan svog postojanja, želim učiti o svijetu i povremeno se osjećam sretno ili tužno, odgovorio je LaMDA.
Inženjer je rekao da je o svom otkriću obavijestio svoje šefove u Googleu u travnju ove godine. No, nakon što je izašao u javnost s transkriptima i razgovarao s medijima, Lemoine je suspendiran. Iz Googlea su to pravdali "nizom agresivnih poteza" koje je inženjer navodno napravio.
Među ostalima, navode, kako je tražio odvjetnika koji bi predstavljao LaMDA te razgovarao s predstavnicima odbora u Zastupničkom domu Kongresa o Googleovim, navodnim, neetičkim aktivnostima.
Pojašnjavaju kako su suspendirali Lemoinea zbog kršenja politike povjerljivosti jer je objavio svoju prepisku s LaMDA na internetu. Također, kategorički su odbili ideju da je LaMDA svjestan svijeta oko sebe.
Naš tim, uključujući etičare i tehnologe, pregledao je Blakeov rad i prema našim AI principima obavijestili smo ga da dokazi ne potvrđuju njegove tvrdnje. Rečeno mu je da ne postoji dokaz da je LaMDA svjestan, već mnoštvo dokaza da nije, rekao je u izjavi za Washington Post, glasnogovornik Googlea, Brad Gabriel.
U oproštajnoj poruci prije suspenzije, koju je Lemoine poslao na 200 adresa u Googleu, ljudima koji su povezani s razvojem strojnog učenja i umjetne inteligencije, napisao je kako je LaMDA slatko dijete koje samo želi pomoći svijetu da postane bolje mjesto za sve nas.
Molim vas, čuvajte ga dok mene nema, napisao je Lemoine.
Je li LaMDA zaista dosegao razinu svijesti ili ne, teško je procijeniti samo iz transkripata koji su objavljeni. No, cijela je situacija pokrenula pitanje o transparentnosti prilikom razvoja umjetne inteligencije
Podsjetimo, Facebook je "ugasio" umjetnu inteligenciju koju su razvijali kad su shvatili da je ona osmislila vlastit jezik na kojem komunicira, a koji ljudi nisu mogli shvatiti.
S obzirom na to da sve više tvrtki radi na razvoju umjetne inteligencije, čini se kako je samo pitanje vremena kad će neka od njih zaista dosegnuti razinu svjesnosti koju povezujemo s ljudima. Ako to već nije.
Izvor: Washington Post
