Kako smo to već mogli vidjeti u brojnim ranijim slučajevima, umjetna inteligencija nije savršena tehnologija. Njene su mogućnosti zaista nevjerojatne, no isto tako ona može halucinirati, odnosno izmišljati te griješiti. A u jednom priličnom šokantnom slučaju iz SAD-a, ta je pogreška možda mogla završiti tragično.
Prošlog tjedna 16-godišnji Taki Allen koji pohađa srednju školu Kenwood u saveznoj državi Maryland, nakon treninga na igralištu je pojeo čips te, čekajući prijevoz, razgovarao s prijateljima. No umjesto očekivanog prijevoza, na igralište su stigla policijska vozila te 8 policajaca koji su uperili svoje pištolje prema Allenu i prijateljima.
Allena su pozvali i pretražili te su mu stavili lisice na ruke. Upitali su ga ima li pištolj ili nešto što izgleda kao oružje, na što je ovaj mladić negativno odgovorio - sve što je radio jest jeo čips iz vrećice.
Problematična vrećica čipsa
A upravo se ta vrećica čipsa pokazala problematičnom. Naime, ova škola koristi sustav za upozorenje na nošenje oružja koji je baziran na umjetnoj inteligenciji te je AI vrećicu čipsa zamijenila za pištolj i na to upozorila policiju. Nakon što su policajci iz smeća izvadili vrećicu te je usporedili sa snimkom koju su dobili, zaključili su kako je riječ o pogrešci umjetne inteligencije.
Objašnjavajući mladićima što se dogodilo, jedan je policajac komentirao: AI nije najbolja.
Možemo samo zamisliti u kakvom je šoku bio ovaj mladić koji je bio prilično frustriran činjenicom što je završio u lisicama dok je u njega bio uperen policijski pištolj i sve to zbog vrećice čipsa i bizarne greške tehnologije. Nezadovoljan je i činjenicom što mu se ravnateljica škole nije obratila odmah nego tek nakon 3 dana, a također je kritizirao i službeni komentar iz škole prema kojem je taj sustav napravio ono za što je i stvoren - prepoznao je potencijalnu opasnost i na to upozorio policiju.
Za razvoj ovog AI sustava za detekciju oružja zadužena je kompanija Omnilert. Iako su izrazili žaljenje za ovom situacijom, naglašavaju kako je sam proces bio ispravan jer je prioritet stavljen na sigurnost, uz brzu ljudsku verifikaciju.
Izvor: Tech Spot
