Nedavno su na Instagramu objavljeni audiozapisi prilično neugodnog sadržaja, a na kojima je navodno ravnatelj jedne srednje škole u Baltimoreu. No kako je pokazala policijska istraga, rasističke i antisemitske izjave koje su objavljene nisu njegove, iako se na snimci zaista čini kako je riječ o glasu ravnatelja Erica Eiswerta. Naime, snimke su napravljene AI alatom za kloniranje glasova, a policija je otkrila kako ih je napravio i mailom poslao jedan zaposlenik te škole.
Riječ je o profesoru tjelesnog odgoja Dazhonu Darienu, a zanimljivo je kako je on u izmišljenom audiozapisu čak spomenuo i svoje ime, odnosno napravio je zapis u kojem se čini kako je ravnatelj spomenuo njegovo ime.
U spornom zapisu koji se brzo raširio društvenim mrežama spominju se “nezahvalna djeca” tamne boje kože i njihove akademske performanse te “ravnatelj” kaže kako će, ako primi još jednu kritiku od židovske zajednice, “pristupiti drugoj strani”. U snimci se također spominju i imena školskog osoblja, uključujući dakle i samog Dariena, za kojeg se na snimci govori da nije trebao biti zaposlen te bi ga se “na ovaj ili onaj način” ukloniti iz škole. On se u ovom slučaju htio prikazati kao nekakva žrtva mobinga ravnatelja kojeg je prikazao kao rasista i lošeg kolegu.
Kada je snimka objavljena, jasno, izazvala je ogorčenje među učenicima, profesorima, kao i članovima obitelji učenika koji pohađaju školu. Većina njih vjerovala je svojim ušima, odnosno da je osoba koja je izgovorila te riječi zaista ravnatelj. Iako je ravnatelj jasno dao do znanja kako on to nije izrekao, našao se pod udarom javnosti, a on i njegova obitelj počeli su primati prijetnje, zbog čega je bila potrebna i policijska zaštita. Samo je jedna osoba, i to član sindikata vjerovala ravnatelju i prvi je posumnjao kako je u ovom slučaju možda riječ o korištenju alata za kloniranje glasova.
To se na kraju pokazalo istinitim te je policijska istraga pokazala da ravnatelj nema veze s ovim incidentom, već da mu je podmetnuo zaposlenik škole koji je na kraju završio u zatvoru. Otkriveno je kako je Darien koristio školsku mrežu za pretraživanje, ali i korištenje AI alata za kloniranje glasova, a povezan je i s email računom koji se koristio za distribuciju ove snimke. Naime, on je nije direktno objavio na društvenim mrežama, već je snimku podijelio putem maila. Istu je zatim jedna profesorica iz škole (koja nije optužena u ovom slučaju) proslijedila učeniku za kojeg je znala da je može proširiti internetom, što je on i učinio. Snimka je na kraju postala viralna i završila je čak i u medijima.
Koliko god da nam moderna tehnologija, a pogotovo AI mogu pomoći u svakodnevnom životu, ovo je još jedno upozorenje i na negativne stvari do kojih može doći njenim korištenjem. Kako tehnologija bude dalje napredovala, sve ćemo teže moći prepoznati što je stvarna fotografija, zvučni ili videozapis te se ne treba čuditi ako se ovakvi i slični slučajevi budu događali i u budućnosti.
Izvor: Ars Tehnica
