Brojni su načini na koji umjetna inteligencija može poboljšati naše živote i svijet u kojem živimo, no AI donosi i određene opasnosti, zbog čega je pri njenom razvoju i primjeni potreban oprez te regulativa. O primjeni AI u pravosuđu jučer se raspravljalo na plenarnom zasjedanju Europskom parlamenta koje se održava u Strasbourgu. Povod zasjedanju bilo je izvješće Odbora za građanske slobode, pravosuđe i unutarnje poslove Europskog parlamenta (LIBE) u kojem se poziva na dodatan oprez prilikom uporabe umjetne inteligencije u pravosuđu, a u raspravi je sudjelovalo i hrvatski zastupnik Tomislav Sokol.
Sokol je član Odbora za unutarnje tržište i zaštitu potrošača (IMCO), vodećeg Odbora Europskog parlamenta za umjetnu inteligenciju, a u priopćenju za javnost podsjetio je na dobre strane AI, ali je upozorio i na brojne potencijalne probleme koji mogu nastati primjenom AI, ako nije dobro regulirana. Među inim, naglasio je opasnost ugroze privatnosti pojedinaca i na različite oblike diskriminacije.
Zbog toga je sa strane EU prema razvoju umjetne inteligencije potreban sveobuhvatan pristup, s kojim će se omogućiti njena primjena na poljima koja će nam donijeti napredak, no regulirat će se njena primjena u kategorijama s potencijalno negativnim posljedicama.
Borba protiv sofisticiranih, dobro financiranih i opremljenih terorističkih i kriminalnih skupina u 21. stoljeću ne može se zamisliti bez korištenja umjetne inteligencije. S druge strane, primjena umjetne inteligencije naročito je osjetljiva u području kaznenog prava jer uključuje mogućnost biometrijskog prepoznavanja i algoritamskog donošenja odluka. Pritom uporabu sustava za daljinsku biometrijsku identifikaciju u stvarnom vremenu na javnim mjestima za potrebe kaznenog progona u skladu s načelom proporcionalnosti, treba ograničiti na situacije kao što su potraga za nestalim djetetom, sprečavanje konkretne i neposredne terorističke prijetnje ili otkrivanje, lociranje, identificiranje ili istraga protiv počinitelja teškog kaznenog djela ili osumnjičenika za takvo djelo, stoji u priopćenju.
Također, naglasio je i važnost postizanja balansa između korištenja umjetne inteligencije s jedne strane i zaštite ljudskih prava s druge strane. Sokol posebno upozorava i protivi se konceptu društvenog vrednovanja u kojem se uz pomoć algoritama prikupljaju velike količine podataka o građanima i njihovom ponašanju, što je još jedan razlog za uvođenje regulative s kojom će se jasno dati do znanja što je dopušteno, a što ne na polju umjetne inteligencije.