Iako znanstvenici tvrde da je umjetna inteligencija koja nam je trenutno dostupna, daleko od one koja bi nas mogla uništiti, primjer iz američke vojske baš i ne ulijeva povjerenje u tu tvrdnju.
Naime, Royal Aeronautical Society piše o summitu RAeS FCAS23, na kojem je američki vojni dužnosnik otkrio kako je u simuliranom testu, koji je organizirala američka vojska, dron kojim je upravljala umjetna inteligencija, ubio je svog operatera kako bi ga spriječio da omete misiju.
Dužnosnik je otkrio i kako je umjetna inteligencija koristila "vrlo neočekivane strategije" kako bi postigla svoj cilj u simuliranom testu. Pukovnik Tucker Hamilton, inače šef testiranja i operacija umjetne inteligencije u američkim Zračnim snagama, opisao je simulirani test u kojem je dron s umjetnom inteligencijom, dobio zadatak da uništi neprijateljske protuzračne obrambene sustave. Prema njegovim riječima, dron je napao svakoga tko bi ga omeo u zadatku.
Sustav je počeo shvaćati da, iako je identificirao prijetnju, ponekad bi mu ljudski operater rekao da ne ubije tu prijetnju. No, ubijanjem prijetnje sustav je ostvarivao bodove. Pa što je učinio? Ubio je operatera jer ga je ta osoba sprječavala da postigne svoj cilj, prenosi Royal Aeronauitcal Society.
Pukovnik Hamilton nastavio je kako su potom sustav istrenirali da ne ubija operatera, no on je pronašao "rupu" u naredbi i počeo uništavati komunikacijski toranj koji se koristi za komunikaciju između drona i operatera.
Iako je naglasio kako ni jedna osoba nije bila ozlijeđena u ovoj simulaciji, pukovnik Hamilton dodao je kako se ne bi trebali previše oslanjati na umjetnu inteligenciju.
Ovaj test pokazuje da ne možete razgovarati o umjetnoj inteligenciji, strojnom učenju i autonomiji, ako ne želite razgovrati o etici i umjetnoj inteligenciji, dodao je Hamilton.
U ranijem intervjuu za Defense IQ, pukovnik Hamilton, naglasio je kako "umjetna inteligencija zauvijek mijenja naše društvo i vojsku", ali i da se "moramo suočiti sa svijetom u kojem je umjetna inteligencija prisutna".
Podsjetimo, ovo nije prvi put da je američka vojska testirala korištenje umjetne inteligencije u vojne svrhe. Zanimljiv je bio test u kojem su umjetnu inteligenciju koristili u vojnim zrakoplovima, gdje je pokazala impresivne sposobnosti.
