Aktivisti za zaštitu ljudskih prava kritiziraju Europsku komisiju jer nije predložila uvođenje zabrane ili moratorija za tehnologije za prepoznavanje lica, koje su često neprecizne i potrebno ih je još razvijati, prenose europski mediji.

Europska komisija predstavila je u srijedu novu digitalnu strategiju s kojom bi Europa trebala postati važan čimbenik u digitalnom sektoru, u kojem trenutačno zaostaje za Sjedinjenim Državama i Kinom.

Od najveće je važnosti i hitnosti da EU spriječi uvođenje tehnologija za masovni nadzor i identifikaciju bez potpunog razumijevanja njihova utjecaja na ljude i njihova prava, upozorio je u razgovoru za EUobserver Diego Naranjo, politički direktor organizacije Europska digitalna prava (EDRi), udruženja europskih organizacija za građanska i ljudska prava koja brani prava i slobode u digitalnom okruženju.

Prošli mjesec u javnost je procurio dokument u kojem se vidjelo da Komisija razmatra privremenu zabranu tehnologija za prepoznavanje lica u javnim prostorima kako bi se bolje analizirali potencijalni rizici, ali taj je prijedlog brzo odbačen, podsjeća EUobserver.

Međutim, potpredsjednica Europske komisije Margarethe Vestager samo je kazala da će Komisija pokrenuti „široku europsku raspravu kako bi se utvrdile specifične okolnosti, ako postoje, koje bi mogle biti opravdanje za korištenje” tehnologija za prepoznavanje lica.

Naranjo smatra da bi „predložena rasprava trebala dovesti do zabrane uvođenja sustava za prepoznavanje lica uživo (i sličnih biometrijskih tehnologija) u državama članicama”.

Prepoznavanje lica i biometrijska identifikacija u jako velikoj mjeri zadiru u privatnost i njihovo korištenje može imati puno rizika za potrošače, upozorio je David Martin iz Europske organizacije potrošača, dodajući da bi bilo neoprezno proširiti korištenje te tehnologije dok se ne uvedu sve potrebne zaštitne mjere.

Komisija je istaknula da želi osigurati uvođenje umjetne inteligencije koja će biti „pouzdana, etička i antropocentrična” donošenjem novih obvezujućih pravila za razvoj i korištenje tzv. visokorizičnih aplikacija, koje se koriste u sektorima kao što su zdravstvo, promet, energetika i dijelovi javnog sektora.

No rizici tehnologija za prepoznavanje lica, koje donose odluke na osnovi interpretacije slike, variraju ovisno o njihovoj svrsi. Primjerice, deblokiranje pametnog telefona ne predstavlja visok rizik za temeljna prava.

Sve visokorizične aplikacije morat će ispunjavati nova pravila, uključujući visoku kvalitetu podataka i sljedivost, ljudski nadzor i standarde transparentnosti u cijelom razvojnom ciklusu tih tehnologija.

Za aplikacije koje nisu visokorizične predviđa se uvođenje dobrovoljne sheme označavanja kako bi korisnici mogli znati da su one pouzdane i u skladu s europskim standardima.

Komisija je ipak priznala da „nedovoljna transparentnost (sustava umjetne inteligencije) otežava identifikaciju i dokazivanje mogućih kršenja zakona, uključujući zakonskih odredbi koje štite temeljna prava.”

Uz to, tehnologije za prepoznavanje lica morat će se koristiti proporcionalno i uz dovoljne zaštitne mjere kako bi se zaštitilo građane.

Umjetnu inteligenciju može se koristiti za biometrijsku identifikaciju na daljinu (prepoznavanje lica) samo kada je to propisno opravdano, proporcionalno i praćeno odgovarajućim zaštitnim mjerama, navodi se u Bijeloj knjizi o umjetnoj inteligenciji, kojom se pokreće javna rasprava o toj temi.

Moderni sustavi omogućuju konstantni nadzor ljudi kroz duga vremenska razdoblja, što jednostavno nije kompatibilno sa slobodnim i demokratskim društvom, upozorila je eurozastupnica Zelenih Alexandra Geese, izvjestiteljica za etičke aspekte umjetne inteligencije Odbora za unutarnje tržište i zaštitu potrošača u Europskom parlamentu.

Vrag je u detaljima, u preciznoj definiciji visokog rizika i u mogućnostima za zaštitu od diskriminirajućih i netočnih aplikacija, kazala je.

Europska agencija za temeljna prava prošlog je studenog poručila da „jasan zakonski okvir mora regulirati uvođenje i korištenje tehnologija za prepoznavanje lica”, upozorivši da prikupljanje slika lica pojedinaca bez njihova pristanka ili prilike da to odbiju „može imati negativan utjecaj na ljudsko dostojanstvo”.

No Komisija smatra da osnovni zakonski okvir za tehnologije za prepoznavanje lica možda već postoji u obliku Opće uredbe o zaštiti podataka (GDPR) i radije želi staviti fokus na njezinu provedbu.

GDPR zabranjuje procesuiranje biometrijskih podataka (slika lica, otisci prstiju) radi identifikacije bez pristanka osobe, osim u iznimnim slučajevima.

No sve više europskih zemalja zadnjih godina testira te tehnologije.

Policijske snage u gotovo svim državama članicama EU-a već koriste tehnologije za prepoznavanje lica ili ih planiraju uvesti, a nitko od njih nije pritom posve transparentan, upozorio je Nicolas Kayser-Bril iz nevladine organizacije AlgorithmWatch.

Željela bih da digitalna Europa odražava najbolje od Europe – otvorenost, pravednost, raznolikost, demokratičnost i samopouzdanje, kazala je u srijedu predsjednica Europske komisije Ursula von der Leyen, ističući da „umjetna inteligencija mora služiti ljudima i uvijek poštivati ljudska prava.”

(Hina)