EU objavio smjernice za "vjerodostojnu umjetnu inteligenciju"

Google se ne može pohvaliti uspjehom odbora čiji su članovi trebali raspravljati o etičkoj uporabi umjetne inteligencije, strojnog učenja i prepoznavanja lica te je taj odbor raspušten nakon samo tjedan dana. O etičkoj uporabi umjetne inteligencije već se dugo raspravlja i unutar Europske unije, a jučer su napokon objavljene prve smjernice koje pokazuju način na koji bi tehnološke kompanije trebale razmišljati i postupati pri razvoju vjerodostojne AI.

tri vijesti o kojima se priča Sad znamo i to NASA-ino superračunalo provelo 400.000 simulacija i sve upućuju na istu godinu u kojoj će Zemlja biti uništena Odustali od nasljednika? Ovaj telefon trebao je pokrenuti novi trend na tržištu, no korisnici su mu pokazali palac dolje Zastrašujući izgled Znanstvenici iznenađeni: Otkrili potpuno novu vrstu pčele, zbog jednog detalja dobila jezivo ime

Za razvoj tih smjernica bila je zadužena neovisna grupa stručnjaka, a neke od glavnih smjernica odnose se na transparentnost, sigurnost i ljudski nadzor, kako se nikada ne bi dogodilo da umjetna inteligencija naudi ljudima. 

Kakav debakl: Googleov odbor koji je trebao raspravljati o etičkoj primjeni AI raspušten nakon tjedan dana

Na stranicama Europske komisije istaknuto je sedam glavnih zahtjeva koje bi sustavi umjetne inteligencije trebali slijediti i pridržavati ih se. Prvi se odnosi, dakle, na ljudski nadzor te ljudi uvijek moraju pratiti i nadgledati, odnosno moći intervenirati u odluke koje donosi umjetna inteligencija.

Drugi takav zahtjev odnosi se na sigurnost te algoritmi moraju biti sigurni, pouzdani te se moraju moći nositi s pogreškama tijekom cijelog životnog ciklusa sustava umjetne inteligencije, dok se treći odnosi na privatnost – svi podaci koje o nama skupi umjetna inteligencija moraju biti privatni i sigurni te im nitko ne bi trebao moći pristupiti niti ih ukrasti, a građani moraju imati potpunu kontrolu nad vlastitim podacima.

Sljedeći zahtjev odnosi se na transparentnost te bi ljudima trebao biti jasan proces donošenja odluka, odnosno zašto je umjetna inteligencija donijela jednu, a ne drugu odluku. Vrlo važan zahtjev jest apsolutna zabrana diskriminacije – po spolu, vjeri, godinama, rasi i slično, a AI ne bi smjela imati predrasude, što se u dosadašnjem razvoju pokazalo velikim problemom.

Etika i AI: Tko će odgovarati za pogreške koje načini umjetna inteligencija?

Umjetna inteligencija trebala bi pozitivno utjecati na okoliš i općenito na društvo te bi mora biti odgovorna, što bi se trebali omogućiti različiti mehanizmi koji će osigurati pouzdanost i odgovornost umjetne inteligencije i ishoda njenog postupanja.

Treba napomenuti kako je riječ o preliminarnim smjernicama te će Europska komisija sljedeće godine, nakon dodatnih savjetovanja s kompanijama i stručnjacima, objaviti nove korake koje namjerava poduzeti kako bi došli do konačnih pravila vjerodostojne umjetne inteligencije.

Izvor: europa.eu