Europski parlament u srijedu je usvojio Akt o umjetnoj inteligenciji kojemu je cilj osigurati pouzdanost te tehnologije, ali istovremeno zadržati konkurentnost Europske unije na tom području.
Ova mjera čini me manje zabrinutim za budućnost djece. To ne govorim kao političar, nego kao roditelj, rekao je u utorak u raspravi o mjeri Rumunj Dragos Tudorache iz redova liberala, jedan od dvojice izvjestitelja.
Tom obvezujućom mjerom, izglasanom u srijedu s 523 glasova 'za' i 48 'protiv', zabranit će se i ograničiti korištenje umjetne inteligencije za niz praksi za koje se smatra da nisu etične ili krše temeljna ljudska prava, poput prepoznavanja emocija na radnom mjestu, klasificiranja pojedinaca po etnicitetu, vjerskom ili seksualnom opredjeljenju, društvenog bodovanja ili prepoznavanja lica.
Za sadržaj nastao umjetnom inteligencijom morat će se naglasiti da je stvoren tom tehnologijom, a tvrtke koje se koriste AI-jem morat će svoje modele razvijati tako da ne generiraju ilegalni ili diskriminatorni sadržaj.
Akt određuje četiri kategorije rizika od korištenja AI-ja, od one najriskantnije na područjima poput prometa i zapošljavanja,do one s minimalnim rizikom poput videoigrica ili filtera za spam. Shodno opasnosti EU predviđa i količinu nadzora i pravila koje se moraju poštivati.
Europarlamentarci, u načelu, zadovoljni
Tudorache i Brando Benifei, Talijan iz redova socijalista i demokrata koji je drugi izvjestitelj, naglašavaju kako je cilj akta istovremeno zadržati potencijal tog sektora za inovacije i zadržati europsku konkurentnost na tom području.
Cilj je „humanocentričan razvoj” AI-ja, rekli su na konferenciji za medije u srijedu.
Povjerenik za unutarnje tržište Thierry Breton u raspravi je rekao kako su pregovori o aktu bili najduži u povijesti Europske unije te da je u njima sudjelovalo 350 organizacija.
Uspjeli smo pronaći ravnotežu između upravljanja rizicima i promocije inovativnosti, smatra Francuz. Tudorache i Benifei dodali su pak kako nikad nije bilo više lobiranja oko neke mjere.
Rumunj tvrdi da se aktom osigurava „kontrola ljudi nad tehnologijom”, no i upozorava da će AI iz temelja izmijeniti naša društva te da preostaje puno posla.
Još uvijek ne svjedočimo punoj moći AI-ja, a on nas već iznenađuje, kazao je.
Tudorache smatra da je riječ o pionirskom, povijesnom aktu, te je pozvao da EU „izvozi” uvedena pravila u ostatak svijeta i promovira svoj model regulacije, pošto na području umjetne inteligencije postoji strateška međuovisnost svih dijelova svijeta.
Ključna za uspješnost ovog akta bit će sposobnost Unije i njezinih članica u nadzoru njegove implementacije. Članice sada imaju 12 mjeseci da nominiraju nacionalne regulatore koji će surađivati s AI uredom koji se uspostavlja u sklopu Europske komisije.
Benifei je najavio da će se njezina „postupna” implementacija pratiti s „velikom budnošću” jer je „vrag u detaljima” te europsko vodstvo zbog velikih interesa oko te teme mora ostati pozorno.
Naglasio je da je ovaj akt tek početak, te da Europski parlament treba raditi na novim zakonima u idućem sazivu, prvenstveno kako bi EU investirao više u tu tehnologiju, poticao privatne investicije i zajednička istraživanja.
Zaštita privatnosti građana
Hrvatski zastupnik u EP-u Karlo Ressler, koji je bio potpredsjednik posebnog Odbora parlamenta za umjetnu inteligenciju, pozdravio je donošenje ovog akta.
Kao središnja tehnologija nove industrijske revolucije, umjetna inteligencija nepojmljivom brzinom mijenja naše društvo. Poput svih alata, ova napredna tehnologija može se koristiti za unaprjeđenje naših života, ali i za distopijske scenarije, rekao je zastupnik EPP-a.
Zato uspostavom jasnog okvira želimo iskoristiti sve mogućnosti te istovremeno minimizirati rizike. Europi su potrebni okvir povjerenja i pravna sigurnost, uz inovacije i konkurentnost – koje Aktom o umjetnoj inteligenciji želimo potaknuti, dodao je.
HDZ-ov hrvatski zastupnik Tomislav Sokol, potpredsjednik nadležnog Odbora za unutarnje tržište i zaštitu potrošača, pozdravio je njegovo donošenje. On je istaknuo da se njime posebno štiti privatnost građana od sustava umjetne inteligencije koji su neprihvatljivog rizika.
Sustavi umjetne inteligencije ubrzano se razvijaju, a koristi od tih sustava naročito su vidljivi u područjima prometa, robotike, energetike i zdravstva gdje, primjerice, umjetna inteligencija omogućuje raniju dijagnostiku zloćudnih bolesti, priopćio je.
Međutim, ako nije primjereno zakonodavno uređena, umjetna inteligencija može ugroziti temeljna prava pojedinca. Zato smo stvarajući prvi europski zakon o umjetnoj inteligenciji vodili računa o tome da stupnjevanjem njezina rizika spriječimo zlouporabu umjetne inteligencije na štetu građana, stoji u priopćenju zastupnika EPP-a.
Sokol piše kako je njegova politička grupacija omogućila „korištenje biometrijske identifikacije u stvarnom vremenu na javnim mjestima radi progona za najteža kaznena djela, sprječavanja terorističkih napada i potrage za nestalima”.
To je velika pobjeda jer su lijeve političke grupacije u Europskom parlamentu htjele zabraniti korištenje umjetne inteligencije za otkrivanje kaznenih djela čemu smo se mi u Klubu zastupnika EPP-a oštro protivili, tvrdi Sokol.
Što točno Zakon propisuje?
Zabranjene primjene
Novim pravilima zabranjene su određene primjene umjetne inteligencije koje ugrožavaju prava građana, uključujući sustave za biometrijsku kategorizaciju temeljene na osjetljivim karakteristikama i neciljano prikupljanje prikaza lica s interneta ili iz nadzornih snimaka radi stvaranja baza podataka za prepoznavanje lica. Zabranjuje se i prepoznavanje emocija na radnome mjestu i u školama, vrednovanje građana, prognostički rad policije (kad se temelji isključivo na izradi profila pojedinaca ili procjeni njihovih osobina) te umjetna inteligencija koja utječe na ljudsko ponašanje ili iskorištava ranjivost pojedinaca.
Iznimke za potrebe kaznenog progona
Upotreba sustava za daljinsku biometrijsku identifikaciju u svrhu kaznenog progona u načelu je zabranjena, osim u okolnostima koje su iscrpno navedene i precizno definirane. Daljinska biometrijska identifikacija u stvarnom vremenu može se koristiti samo ako su ispunjeni strogi zahtjevi, npr. njezina je upotreba vremenski i geografski ograničena te je za nju prethodno izdano posebno sudsko ili upravno dopuštenje. Neki od primjera takvih okolnosti su ciljana potraga za nestalom osobom ili sprečavanje terorističkog napada. Naknadna upotreba sustava za daljinsku biometrijsku identifikaciju smatra se visokorizičnom upotrebom i za nju je potrebno sudsko dopuštenje povezano s kaznenim djelom.
Obveze za visokorizične sustave
Predviđene su i jasne obveze za druge visokorizične sustave umjetne inteligencije (zbog njihova znatnog potencijala za ugrožavanje zdravlja, sigurnosti, temeljnih prava, okoliša, demokracije i vladavine prava). Visokorizična umjetna inteligencija upotrebljava se, među ostalim, za kritičnu infrastrukturu, obrazovanje i osposobljavanje, zapošljavanje, ključne privatne i javne usluge (npr. zdravstvo, bankarstvo), određene sustave u okviru kaznenog progona, upravljanje migracijama i granicama, pravosuđe i demokratske procese (npr. utjecanje na izbore). Za takve sustave treba osigurati procjenu i ublažavanje rizika, vođenje evidencije upotrebe, transparentnost i preciznost te ljudski nadzor. Građani će imati pravo podnijeti tužbu povezanu s umjetnom inteligencijom te dobiti objašnjenja odluka temeljenih na visokorizičnim sustavima umjetne inteligencije koje utječu na njihova prava.
Zahtjevi za transparentnost
Sustavi umjetne inteligencije opće namjene i modeli na kojima se temelje moraju zadovoljavati određene kriterije transparentnosti, uključujući usklađenost sa zakonom EU o autorskim pravima i objavljivanje detaljnih sažetaka sadržaja koji se koristi za obuku. Snažniji sustavi umjetne inteligencije opće namjene koji bi mogli predstavljati sistemske rizike podlijegat će dodatnim zahtjevima koji uključuju ocjenjivanje modela, procjene i ublažavanje sistemskih rizika te prijavljivanje incidenata.
Uz to, umjetno stvoreni ili manipulirani audiosadržaji, fotografije i videosadržaji (deepfakes) moraju biti jasno označeni kao takvi.
Poticanje inovacija te malih i srednjih poduzeća
Treba uspostaviti regulatorno izolirano okruženje i testiranje u stvarnim uvjetima na nacionalnoj razini te omogućiti start-up poduzećima te malim i srednjim poduzećima pristup istima kako bi mogla razvijati i trenirati inovativne sustave umjetne inteligencije prije njihova stavljanja na tržište.
Kad to sve stupa na snagu?
Iako je Zakon usvojen u Europskom parlamentu, još je dug put do njegove implementacije i primjene u svakodnevnom životu.
Naime, usvojeni tekst trebaju pregledati pravnici lingvisti, nakon čega konačna verzija ponovno ide u Europski parlament na izglasavanje. Potom službenu podršku treba dobiti i od Vijeća Europe.
Kad se ispune svi ti preduvjeti, konačni prihvaćeni tekst Zakona bit će objavljen u Službenom listu Europske unije, a stupit će na snagu dvadeset dana nakon objave. Službena primjena započeti će 24 mjeseca nakon stupanja na snagu, osim zabranjenih primjena (šest mjeseci nakon stupanja na snagu), kodeksa prakse (devet mjeseci nakon stupanja na snagu), pravila za umjetnu inteligenciju opće namjene uključujući upravljanje (12 mjeseci nakon stupanja na snagu) i obveza za visokorizične sustave (36 mjeseci nakon stupanja na snagu) koji imaju posebno vrijeme primjene.
