Galerija

Laura Nolan je bivša programerka u Googleu, koja je dala otkaz u tom globalnom tech divu jer su je prebacili na projekt razvoja dron letjelice za vojsku, upozorava javnost da bi autonomni sustavi naoružanja mogli "nehotično" započeti idući svjetski sukob.

Nolan zapravo misli na ugradnju sve sofisticiranije umjetne inteligencije u vojnu tehnologiju te smatra da bi to moglo imati kobne posljedice.

Ona se nakon davanja otkaza u Googleu priključila kamapnji "Stop robotima ubojicama" (Stop Killer Robots) te je o toj temi izvijestila i diplomate. Njezina najnovija zabirnutost jest da bi AI mogao završiti kao uzročnik ratova ili počinitelj velikih ratnih zločina.

Ne kažem da bi trebalo zabraniti raketne sustave s navođenjem ili proturaketnu obranu. Oni su pod ljudskom kontrolom i netko je za iste u konačnici odgovoran, rekla je Nolan za Guardian.

Autonomna oružja su, međutim, etički i tehnološki korak promjene u ratovanju. Vrlo malo ljudi govori o tome, no ne budemo li oprezni, jedno ili više tih oružja, tih robota ubojica, moglo bi nehotice uzrokovati brzi rat, uništiti nuklearnu elektranu i uzrokovati masovne ratne strahote, dodala je.

Jedan od velikih problema s tim sustavima jest i taj da se mogu testirati jedino u zonama sukoba, što samo po sebi podiže čitav niz drugih problema.

Kako uvježbavate sustav koji radi isključivo na računalnom programu da otkrije suptilne znakove u ljudskom ponašanju ili da razlikuje lovca na divljač od naoružanog pobunjenika?, pita Nolan.

Kako da stroj za ubijanje tamo negdje djelujući autonomno razlikuje 18-godišnjeg borca od 18-godišnjeg lovca na zečeve?, dodaje.

Projekt zbog kojeg je Nolan otišla iz Googlea jest projekt Maven i Google njime pokušava unaprijediti tehnologiju video raspoznavanja za dronove. Google je na koncu i propustio ugovor s američkom vojskom u ožujku nakon što je više od 3000 djelatnika te tvrtke potpisalo peticiju u kojoj osuđuju umješanost te kompanije u vojone projekte.

U međuvremenu je Google osnovao i osmeročlani etički panel "digitalnih etičara", da savjetuje rukovodstvo kompanije o pitanjima umjetne inteligencije. Mjesec dana kasnije, međutim, jedan drugi etički panel unutar kompanije je u tišini raspušten.