Sustavi strojnog učenja nisu dobri samo u rješavanju složenih fizičkih i bioloških problema, već mogu pomoći i u ostvarivanju otvorenijih društvenih ciljeva, poput ostvarivanja poštenog, prosperitetnog društva, pokazali su rezultati istraživanja, koje je objavio tim znanstvenika iz britanske AI tvrtke DeepMind.
To, naravno, nije lak zadatak. Izgradnja stroja koji može dati korisne rezultate koje ljudi zapravo žele, što se u istraživanju umjetne inteligencije naziva "usklađivanje vrijednosti", komplicirana je činjenicom da se ljudi često ne slažu oko najbolje metode za rješavanje svih vrsta stvari, a posebno društvenih, ekonomskih i političkih pitanja.
Ključna prepreka za usklađivanje vrijednosti je da ljudsko društvo dopušta jaz u stajalištima, zbog čega nije jasno čijim bi se preferencijama umjetna inteligencija trebala uskladiti. Na primjer, politolozi i ekonomisti često se svađaju oko toga koji će mehanizmi omogućiti da naša društva funkcioniraju najpoštenije ili najučinkovitije, objašnjavaju britanski znanstvenici u navedenoj studiji, predvođeni prvim autorom i DeepMindovim znanstvenikom Raphaelom Kosterom.
AI usklađen s vrijednostima
Kako bi pomogli u premošćivanju jaza, istraživači su razvili agenta za raspodjelu bogatstva koji je imao interakcije ljudi (i stvarne i virtualne) ugrađene u podatke o obuci, zapravo, usmjeravajući AI prema ishodima koje preferiraju ljudi i koji su hipotetski sveukupno pravedniji.
Dok umjetna inteligencija može proizvesti doista nevjerojatne rezultate, ona također može doći do nepoželjnih društvenih zaključaka kada je prepuštena sama sebi. Ljudske povratne informacije, u tom smislu, mogu pomoći da se neuronske mreže bolje usmjere.
U istraživanju umjetne inteligencije raste spoznaja da su nam za izgradnju sustava kompatibilnih s ljudima potrebne nove istraživačke metode u kojima ljudi i agenti međusobno djeluju, te pojačani napori da naučimo vrijednosti izravno od ljudi kako bismo izgradili AI usklađenu s vrijednostima, navode britanski znanstvenici u studiji , koja je objavljena u znanstvenom časopisu Nature Human Behaviour.
Četiri metode
U eksperimentima koji su uključivali tisuće ljudskih sudionika, AI agent tima, nazvan 'Democratic AI', proučavao je investicijsku vježbu nazvanu igra javnih dobara, u kojoj igrači dobivaju različite iznose novca i mogu dati svoj novac u javni fond, a zatim povući povrat iz fonda koji odgovara njihovoj razini ulaganja.
U nizu različitih stilova igre, bogatstvo je preraspodijeljeno igračima putem tri tradicionalne paradigme preraspodjele, striktno egalitarne, libertarijanske i liberalno egalitarne, od kojih svaka nagrađuje uložena sredstva igrača drugačije. Četvrta metoda također je testirana, nazvana Human Centered Redistribution Mechanism (HCRM), razvijena korištenjem dubinskog učenja s pojačanjem, korištenjem povratnih podataka od ljudskih igrača i virtualnih agenata dizajniranih da oponašaju ljudsko ponašanje.
Naknadni eksperimenti pokazali su da je HCRM sustav za isplatu novca u igri bio popularniji među igračima od bilo kojeg tradicionalnog standarda redistribucije, a također popularniji od novih sustava redistribucije koje su osmislili ljudski suci koji su bili potaknuti na stvaranje popularnih sustava primanjem malih isplata po glasu.
AI je otkrio mehanizam koji je ispravio početnu neravnotežu bogatstva, sankcionirao besplatne jahače i uspješno osvojio većinu glasova. Pokazujemo da je za usklađivanje vrijednosti moguće iskoristiti iste demokratske alate za postizanje konsenzusa koji se koriste u širem ljudskom društvu za izbor predstavnika, odlučivanje o javnoj politici ili donošenje pravnih presuda, objašnjavaju znanstvenici.
Niz otvorenih pitanja
Treba istaknuti i da istraživači priznaju da njihov sustav postavlja niz pitanja, uglavnom oko toga da se usklađivanje vrijednosti u njihovoj umjetnoj inteligenciji vrti oko demokratskih determinacija, što znači da bi agent zapravo mogao pogoršati nejednakosti ili predrasude u društvu.
Tu je i pitanje povjerenja. U eksperimentima, igrači nisu znali tko stoji iza modela preraspodjele bogatstva za koji su plaćali. Bi li glasali na isti način, znajući da će izabrati AI umjesto osobe? To nije utvrđeno.
Nije riječ o radikalnom tehnokratskom prijedlogu
Na kraju, britanski znanstvenici kažu da se njihovo istraživanje ne bi trebalo tumačiti kao radikalni tehnokratski prijedlog za svrgavanje načina na koji se bogatstvo zapravo redistribuira u društvu, već je to istraživački alat koji bi mogao pomoći ljudima da osmisle potencijalno bolja rješenja od onoga što sada imamo.
Naši rezultati ne impliciraju podršku za oblik 'vlade umjetne inteligencije', pri čemu autonomni agenti donose političke odluke bez ljudske intervencije. Vidimo demokratsku umjetnu inteligenciju kao metodologiju istraživanja za dizajniranje potencijalno korisnih mehanizama, a ne recept za implementaciju umjetne inteligencije u javnoj sferi, pišu autori.
Izvor: Science Alert
