S 1. kolovozom 2024. godine na snagu je stupio Europski akt o umjetnoj inteligenciji, uredba koja je zamišljena kao okvir koji bi osigurao da se umjetna inteligencija razvija i upotrebljava kako bi bila pouzdana i istovremeno zaštitila temeljna ljudska prava. Ovo je prva takva uredba u svijetu kojom se nastoji potaknuti uvođenje same tehnologije, ali i stvoriti poticajno okružje za inovacije i ulaganja.
Umjetna inteligencija može promijeniti način na koji radimo i živimo te obećava goleme koristi za građane, naše društvo i europsko gospodarstvo. Europski pristup tehnologiji stavlja ljude na prvo mjesto i osigurava očuvanje prava svih. Aktom o umjetnoj inteligenciji EU je poduzeo važan korak kako bi osigurao da se primjenom tehnologije umjetne inteligencije poštuju pravila EU-a u Europi, izjavila je izvršna potpredsjednica Komisije Margrethe Vestager, nadležna za Europu spremnu za digitalno doba.
Naime, Aktom o umjetnoj inteligenciji uvodi se definicija umjetne inteligencije usmjerena na budućnost koja se temelji na sigurnosti proizvoda i pristupu temeljenom na riziku u EU-u. Radi se o četiri stupnja rizika.
Minimalni rizik: Većina UI sustava, kao što su sustavi za preporučivanje koji se temelje na umjetnoj inteligenciji i filtri za neželjenu poštu, pripada toj kategoriji. Ti sustavi ne podliježu obvezama na temelju Akta o umjetnoj inteligenciji zbog minimalnog rizika za prava i sigurnost građana. Poduzeća mogu dobrovoljno donijeti dodatne kodekse ponašanja.
Poseban rizik u pogledu transparentnosti: Sustavi kao što su chatbotovi moraju jasno otkriti korisnicima da su u interakciji sa strojem. Određeni sadržaji generirani umjetnom inteligencijom, uključujući uvjerljivi krivotvoreni sadržaj, moraju biti označeni kao takvi, a korisnike treba obavijestiti o upotrebi sustava za biometrijsku kategorizaciju ili prepoznavanje emocija. Osim toga, pružatelji usluga morat će osmisliti sustave na način da sintetički audiozapisi, videozapisi, tekst i slike budu označeni u strojno čitljivom formatu i da se mogu prepoznati kao umjetno stvoreni ili manipulirani.
Visok rizik: Sustavi umjetne inteligencije utvrđeni kao visokorizični morat će ispunjavati stroge zahtjeve, uključujući sustave za smanjenje rizika, visoku kvalitetu skupova podataka, evidentiranje aktivnosti, detaljnu dokumentaciju, jasne informacije za korisnike, ljudski nadzor i visoku razinu otpornosti, točnosti i kibersigurnosti. Regulatorna izolirana okruženja pridonijet će odgovornosti u inovacijama i razvoju sustava umjetne inteligencije u skladu s pravilima. Takvi visokorizični sustavi umjetne inteligencije uključuju, na primjer, sustave koji se upotrebljavaju za zapošljavanje ili za procjenu ima li netko pravo dobiti zajam ili upravljati autonomnim robotima.
Neprihvatljiv rizik: Sustavi umjetne inteligencije koji se smatraju jasnom prijetnjom temeljnim pravima ljudi bit će zabranjeni. To uključuje UI sustave ili aplikacije kojima se manipulira ljudskim ponašanjem kako bi se zaobišla besplatna volja korisnika, kao što su igračke koje koriste glasovnu pomoć kojima se potiče opasno ponašanje maloljetnika, sustavi koji vladama ili poduzećima omogućuju „društveno vrednovanje” i određene primjene prognostičkog rada policije. Osim toga, neke primjene biometrijskih sustava bit će zabranjene, na primjer sustavi za prepoznavanje emocija na radnom mjestu i neki sustavi za kategorizaciju ljudi ili biometrijska identifikacija u stvarnom vremenu na javnim mjestima za potrebe kaznenog progona (uz strogo ograničene iznimke).
Kako bi se taj sustav dopunio, Aktom o umjetnoj inteligenciji uvode se i pravila za takozvane modele umjetne inteligencije opće namjene, koji su vrlo sposobni modeli umjetne inteligencije osmišljeni za obavljanje širokog raspona zadaća kao što je izrada teksta sličnog čovjeku. Modeli umjetne inteligencije opće namjene sve se više upotrebljavaju kao sastavni dijelovi aplikacija umjetne inteligencije. Aktom o umjetnoj inteligenciji osigurat će se transparentnost duž lanca vrijednosti i riješiti mogući sistemski rizici najsposobnijih modela.
Danas je važna prekretnica u europskom vodstvu u području pouzdane umjetne inteligencije. Stupanjem na snagu Akta o umjetnoj inteligenciji europska demokracija uspostavila je djelotvoran, razmjeran i prvi svjetski okvir za umjetnu inteligenciju, koji se bavi rizicima i služi kao polazište za europske startupove u području umjetne inteligencije, istaknuo je Thierry Breton, povjerenik za unutarnje tržište.
Od danas na snazi, ali...
No, iako je Akt o AI službeno stupio na snagu, to ne znači i da će se sve njegove odrednice odmah primjenjivati. Tvrtkama je dano prijelazno razdoblje u kojem se mogu i moraju prilagoditi novim pravilima. U protivnom mogu biti kažnjene. Prema odredbama, tvrtke koje se ne pridržavaju pravila kaznit će se novčano, a te kazne mogu iznositi i do 7 posto prometa na svjetskoj razini za povrede zabranjenih primjena umjetne inteligencije, odnosno do 3 posto za povrede drugih obveza i do 1,5 posto za pružanje netočnih informacija.
Države članice imaju do 2. kolovoza 2025. vremena imenovati nacionalna nadležna tijela koja će nadgledati primjenu pravila za sustave umjetne inteligencije i provoditi aktivnosti nadzora tržišta. Komisijin Ured za umjetnu inteligenciju bit će ključno provedbeno tijelo za Akt o umjetnoj inteligenciji na razini EU-a, kao i izvršitelj pravila za modele umjetne inteligencije opće namjene.
Europski odbor za umjetnu inteligenciju osigurat će ujednačenu primjenu Akta o umjetnoj inteligenciji u svim državama članicama EU-a i djelovati kao glavno tijelo za suradnju između Komisije i država članica. Znanstveni odbor neovisnih stručnjaka ponudit će tehničke savjete i informacije o provedbi. Konkretno, taj panel može Uredu za umjetnu inteligenciju izdati upozorenja o rizicima povezanima s modelima umjetne inteligencije opće namjene. Ured za umjetnu inteligenciju može dobiti i smjernice savjetodavnog foruma sastavljenog od različitih dionika.
Treba podsjetiti kako će se većina pravila Akta o umjetnoj inteligenciji početi primjenjivati tek za dvije godine, 2. kolovoza 2026. Međutim, zabrane sustava umjetne inteligencije za koje se smatra da predstavljaju neprihvatljiv rizik primjenjivat će se već nakon šest mjeseci, dok će se pravila za takozvane modele umjetne inteligencije opće namjene primjenjivati nakon 12 mjeseci.
Pakt o umjetnoj inteligenciji
Kako bi se premostilo prijelazno razdoblje prije potpune provedbe, Komisija je pokrenula Pakt o umjetnoj inteligenciji. Ovom inicijativom pozivaju razvojne programere umjetne inteligencije da dobrovoljno donesu ključne obveze iz Akta o umjetnoj inteligenciji prije isteka zakonskih rokova.
Komisija izrađuje i smjernice kako bi definirala i detaljno opisala način provedbe Akta o umjetnoj inteligenciji i olakšala instrumente zajedničke regulacije kao što su standardi i kodeksi prakse.
Zanimljivo, Komisija je objavila poziv na iskaz interesa za sudjelovanje u izradi prvog Kodeksa dobre prakse u području umjetne inteligencije opće namjene, kao i savjetovanje s više dionika kojim se svim dionicima omogućuje da izraze svoje mišljenje o prvom Kodeksu prakse u okviru Akta o umjetnoj inteligenciji.
Bit će zanimljivo vidjeti kakve će odgovore dobiti na upitnike koje će slati zainteresiranim stranama, ali i koliko će Kodeks i smjernice biti detaljne odnosno općenite u svom izričaju.
