Dokument koji je Pentagon objavio napravio je Odbor za obrambenu inovaciju, odnosno grupa od 16 jakih imena kojima predsjeda bivši direktor Alphabeta Eric Schmidt. Među istaknutijim članovima odbora su direktor Planetarija Hayden i popularni popularizator znanosti Neil deGrasse Tyson te suosnivač LinkedIna Reid Hoffman.
Dokument je nazvan AI osnove: Preporuke o etičkom korištenju umjetne inteligencije od strane ministarstva obrane (AI Principles: Recommendations on the Ethical Use of Artificial Intelligence by the Department of Defense). On predstavlja rani temelj za postavljanje striktnijih pravila korištenja umjetne inteligencije u budućnosti.
Pomoću tih smjernica američka vojska može jasnije razvijati svoje AI sustave.
U dokumentu se navode Kina i Rusija kao države koje su već uhvatile korak s vojnim istraživanjima na polju umjetne inteligencije.
Navedeno je pet glavnih osnova pomoću kojih bi se kontrolirali sustavi umjetne inteligencije koji se koriste za borbene i druge svrhe:
Odgovornost - ljudska bića uvijek bi trebala voditi razvoj i primjenu AI sustava te odrediti njihove rezultate
Nepristranost - AI sustavi ne bi smjeli nehotično ozlijediti ljude po bilo kojoj osnovi
Lagano praćenje - AI algoritmi trebali bi biti transparentni i pod nadzorom
Pouzdanost - Dizajneri moraju definirati lepezu djelovanja AI sustava te osigurati da ta djelovanja ne prelaze svoje granice
Upravljivost - Ljudi bi uvijek trebali imati mogućnost preuzeti kontrolu nad AI sustavom u bilo kojem trenutku, uključujući i njihovo isključenje ako je to potrebno
Navedene smjernice isto tako sadrže i 12 preporuka koji podupiru navedene osnove, uključujući i preporuku da se stvori tijelo za upravljanje umjetnom inteligencijom, investicije u AI istraživanja te radnu snagu koja će raditi na uvježbavanju AI sustava.
U dokumentu se poziva i na stvaranje mjerila po kojima bi se mjerila pouzdanost AI sustava te metodologija upravljanja rizicima prilikom puštanja u pogon umjetne inteligencije.
Ove smjernice stižu u pravi trenutak jer američka javnost (a i svjetska) smatra da je bilo krajnje vrijeme da američka vojska pojasni svoje politike prema korištenju umjetne inteligencije, s obzirom na to da već istražuju njezino korištenje u vojnim aplikacijama.
Podsjetimo primjerice da su djelatnici Googlea prosvjedovali protiv svoje matične kompanije zbog korištenja umjetne inteligencije u projektu Maven, koji su provodili upravo za Pentagon. Google je u međuvremenu objavio i vlastiti set osnovnim pravila koja definiraju korištenje te tehnologije.
Isto tako američko ministarstvo obrane već radi na razvoju sustava koji automatski cilja neprijatelja nazvanog ATLAS (Advanced Targeting and Lethality Automated System).
Izvor: Naked Security by Sophos
