Chatbotovi, autonomna vozila i međusobno povezani strojevi u digitalnim tvornicama predstavljaju sliku nadolazeće budućnosti. Široka primjena umjetne inteligencije kompanijama će donijeti mnoge prednosti, npr. veću učinkovitost, manje repetitivnih poslova i bolje iskustvo za klijente.

Međutim, ako se tehnologija nađe u krivim rukama, potencijalne prijetnje vrlo bi lako mogle umanjiti ove značajne koristi. Izloženost zlonamjernim kibernetičkim napadima i tehničkim kvarovima povećat će se, a jačanjem povezanosti između društava i gospodarstava porast će i mogućnost nastupa poremećaja velikih razmjera i iznimnih financijskih gubitaka. Kompanije će također biti suočene s novim rizičnim scenarijima zbog prijenosa odgovornosti s čovjeka na stroj i njegova proizvođača.

U novom izvještaju pod naslovom „Uspon umjetne inteligencije: izgledi za budućnost i novi rizici” Allianz Global Corporate & Specialty ističe prednosti i rizike u nastajanju vezane za rastuću implementaciju umjetne inteligencije u društvu i industriji.

Umjetna inteligencija u mnoga će područja donijeti potencijalne koristi i rizike: ekonomiju, politiku, mobilnost, zdravstvo, obranu i okoliš. Aktivne strategije za upravljanje rizicima potrebne su kako bi se maksimalno iskoristile prednosti potpunog uvođenja napredne primjene umjetne inteligencije u društvo, tvrdi Michael Bruch, voditelj novih trendova u AGCS-u.

„Slabi” ili bazični oblici umjetne inteligencije već su danas u stanju obavljati specifične zadatke, no buduće generacije tzv. „jake” umjetne inteligencije moći će rješavati teške zadatke i obavljati složene transakcije.

Umjetna inteligencija sve više nalazi korisnike u gotovo svakoj industriji, od chatbotova koji nude financijske savjete do onih koji liječnicima pomažu u dijagnozi karcinoma. Ista se tehnologija koristi za autonomne automobile, izradu boljih vremenskih prognoza, obradu financijskih transakcija te nadzor i upravljanje industrijskim strojevima.

Dvojako lice novih tehnologija

Međutim, s ovim mogućim koristima dolaze i određeni rizici. Kibernetički rizici među najznačajnijim su rizicima za kompanije prema Allianzovu barometru rizika za 2018., no ujedno simboliziraju dvojako lice novih tehnologija kao što je umjetna inteligencija.

Softver pogonjen umjetnom inteligencijom mogao bi doprinijeti smanjivanju kibernetičkog rizika za kompanije tako što bi bolje detektirao napade, no istovremeno bi mogao i povećati rizik ako zlonamjerni hakeri uspiju preuzeti kontrolu nad sustavima, strojevima ili vozilima.

Umjetna inteligencija mogla bi omogućiti provođenje ozbiljnijih i preciznijih kibernetičkih napada tako što bi snizila trošak njihova organiziranja. Isti hakerski napadi – ili greške u programu – mogli bi se replicirati na velikom broju uređaja. Postojeća predviđanja tvrde kako bi globalni kibernetički napad većih razmjera potencijalno mogao dovesti do više od 50 milijardi dolara gubitaka, no čak i poludnevni nestanak struje na lokaciji pružatelja cloud usluga mogao bi uzrokovati oko 850 milijuna dolara gubitaka.

Novi rizici u pristupačnosti softvera, sigurnosti, odgovornosti, obveza i etike

Kako bi prepoznao rizike u nastajanju vezane uz umjetnu inteligenciju, AGCS se usmjerio na pet područja: pristupačnost softvera, sigurnost, odgovornost, obveze i etiku.

Odgovoran razvoj i uvođenje umjetne inteligencije bit će manja prijetnja društvu ako se na svako od navedenih područja obrati pažnja. Ključne su preventivne mjere za smanjivanje rizika od neželjenih posljedica, izjavio je Bruch.

Po pitanju sigurnosti, primjerice, natjecanje u uvođenju sustava baziranih na umjetnoj inteligenciji na tržište moglo bi dovesti do nedovoljnih ili nemarnih aktivnosti vrednovanja, koje su neophodne kako bi se osiguralo da su plasirani strojevi pogonjeni umjetnom inteligencijom sigurni, funkcionalni i kibernetički zaštićeni. To bi, pak, moglo rezultirati većim brojem proizvoda s greškom, odnosno većim brojem povlačenja.

Što se tiče obaveza, strojevi pogonjeni umjetnim inteligencijom mogu u budućnosti od ljudi preuzeti donošenje mnogih odluka, no ne mogu biti smatrani zakonski odgovornima za njih. U pravilu je za greške koje su uzrokovale štetu korisnicima odgovoran proizvođač ili programer koji je izradio softver koji koriste strojevi pogonjeni umjetnom inteligencijom. Međutim, prema postojećim pravnim propisima, za odluke umjetne inteligencije koje nisu izravno vezane uz njihov dizajn ili proizvodnju i koje je stroj poduzeo zbog vlastitog tumačenja stvarnosti ne postoji odgovorna strana.

Prepuštanje odluka sudovima moglo bi postati skupo i neučinkovito ako bi broj slučaja štete uzrokovanih umjetnom inteligencijom počeo rasti, kaže Bruch. Rješenje za nedostatak zakonske odgovornosti bilo bi uspostavljanje stručnih agencija ili tijela koji bi razvili okvir odgovornosti prema kojem bi se na dizajnere, proizvođače ili distributere proizvoda koji koriste umjetnu inteligenciju primjenjivala ograničena odgovornost za štetu.

Osiguranje će morati posvetiti veću pažnju određenim rizicima kojima se izlažu kompanije, npr. kibernetičkim napadima, prekidu poslovanja, povlačenju proizvoda i šteti koja se odražava na ugled. Vjerojatno će se usvojiti novi modeli osiguranja od odgovornosti – u području autonomnih vozila primjerice – kojima će se povećati pritisak na proizvođače i distributere softvera te smanjiti objektivnu odgovornost potrošača.