Prije nekoliko tjedna na školsko igralište srednje škole Kenwood u Marylandu upala je policija i uhitila 16-godišnjaka koji se tamo nalazio s prijateljima. On je nakon treninga pojeo čips iz vrećice te čekao prijevoz, a kako nije napravio ništa ilegalno, možemo samo zamisliti u kakvom je šoku bio kada je završio na nišanu policijskih pištolja i s lisicama na rukama.
Na njegovu sreću, brzo je i pušten te je saznao kako je uhićen zbog nesporazuma, odnosno - zbog greške umjetne inteligencije. Naime, kao i brojne škole u SAD-u i u ovoj školi je instaliran sustav za upozorenje na nošenje oružja koji je baziran na umjetnoj inteligenciji. Taj je sustav vrećicu čipsa prepoznao kao pištolj, zbog čega je upozorenja policija koja je odmah reagirala.
“Opasni” klarinet
Slična situacija nedavno se dogodila i na kampusu škole u Floridi. Umjetna inteligencija upozorila je na osobu (učenik ili učenica) s potencijalnim oružjem. Odmah su aktivirani sigurnosni protokoli, škola je stavljena u lockdown te je pozvana pozvana policija. Srećom, kao i u slučaju s vrećicom čipsa, nije bilo oružja, već je sustav zbunio - klarinet.
Samo jedan pogled na glazbeni instrument bio je dovoljan kako bi se riješila ova situacija, a nakon toga ravnateljica škole obavijestila je roditelje o tome što se dogodilo te ih upozorila da bi trebali razgovarati sa svojom djecom. Naime, naglasila je kako je učenik ili učenica zbog koje je aktiviran AI sustav klarinet nosio kao da nosi oružje.
ZeroEyes
Škola koristi sustav kompanije ZeroEyes koji je integriran u nadzorne kamere škole te je baziran na algoritmu koji je treniran na više od 100 vrsta oružja. Sustav konstantno prati prijenos uživo te, ako prepozna potencijalno oružje, automatski upozorava operatera kompanije u njihovom centru. Ako i on zaključi kako je riječ o oružju, obavještava policiju i školu. U ovom slučaju, čini se kako ne samo da AI nije prepoznala klarinet, već to nije uspjela napraviti i osoba koja bi trebala spriječiti takve nesporazume i lažne uzbune.
Roditelji škole su prilično bijesni jer, osim što su svi doživjeli nepotreban šok, žele znati kakva je to učinkovitost sustava kojeg škola plaća 250 tisuća dolara. AI sustav ZeroEyes instaliran je u brojne američke škole, no iz ove tvrtke do sada nisu objavili previše podataka o njegovoj učinkovitosti, odnosno koliko je napada do sada spriječio, a koliko je imao lažnih uzbuna poput ove.
Neki analitičari kažu kako je do sada napravljeno samo nekoliko neovisnih analiza ove tehnologije čiji su rezultati miješani te dio stručnjaka za sigurnost smatra kako taj sustav više daje nekakvu iluziju sigurnosti, nego što je riječ o tehnologiji koja bi u stvarnosti zaista mogla smanjiti stvarni rizik.
Izvor: Yahoo News
