Sve što je potrebno kako bi se životi tinejdžera pretvorili u noćnu moru jest samo jedna obična fotografija poput profilne slike s Facebooka ili neke fotografije s društvenih mreža na kojoj su se slikali s prijateljima. Zlostavljači s takvom jednom jedinom fotografijom, a uz pomoć AI alata koji su sada prilično rašireni, mogu napraviti fotografiju ili čak videozapis u kojoj je ta osoba - potpuno gola.
Takvi su scenariji već više puta zabilježeni u školama, a takve se slike i videozapisi brzo šire među grupnim porukama mladih. Dok istina izađe na vidjelo, odnosno dok se ne dokaže kako je riječ o deepfake, a ne stvarnom videu, šteta (ponekad i nepovratna) već je napravljena i ta je osoba već na stupu srama.
Zlostavljači su naprednu tehnologiju tako pretvorili u opasno oružje, a protiv takvog oružja često nema obrane. Kako tehnologija napreduje, tako su i fotografije i videa sve realističniji, a broj stranica i alata s kojima se može napraviti deepfake sve je veći i rasprostranjeniji. Ono što je posebno opasno jest što mladi, a najčešće su na udaru djevojke, ne moraju napraviti doslovno ništa poput klika na neki sumnjivi link ili slikanja u provokativnoj pozi ili čak u kupaćem kostimu, kako bi netko napravio njihovu lažnu golu fotografiju, komentirao je za NY Post Don Austin, nadzornik školskog okruga Palo Alto.
Velika digitalna kriza
Austin je to nazvao velikom digitalnom krizom.
Kako bi se borili protiv toga, prošlog ljeta ured gradskog tužitelja San Francisca podigao je tužbu protiv 16 takvih stranica za deepfake zbog iskorištavanje djece i korištenja fotografija na koje njihovi vlasnici nisu pristali. Samo u prvoj polovici 2023. godine takve su stranice zabilježile čak 200 milijuna posjeta.
Josh Ochs iz organizacije koja poučava obitelji digitalnoj sigurnosti SmartSocial, komentirao je kako takve deepfake fotografije napravljene uz pomoć umjetne inteligencije uzrokuju velike probleme za mlade diljem SAD-a. On je posebno naglasio kako bi roditelji trebali imati važnu ulogu u digitalnim životima svojih najmilijih te prije nego djeci daju telefon u ruke ili im dopuste korištenje društvenih mreža, trebaju s njima razgovarati - i to često. Također, potrebno je razgovarati i sa samim roditeljima, učiteljima, učenicima i “svima koji su voljni slušati” i upozoriti ih na ovaj problem.
S obzirom na to da je riječ o iznimno velikom problemu koji može imati i tragične posljedice, prije dva mjeseca u SAD-u je donesen prijedlog zakona o kriminalizaciji objavljivanja pa čak i prijetnje objavljivanjem AI deepfake pornografije bez pristanka.
