Deepfake videi, odnosno videosnimke koje su toliko računalno manipulirane da više nisu istinite postaju prava opasnost diljem svijeta. Nekoliko razvikanih primjera koji uključuju poznate političare najbolji su pokazatelj koliko je zapravo teško prepoznati što je prava snimka, a što deepfake.
Kako se taj problem širi, tako su se i tvrtke specijalizirane za različita sigurnosna rješenja, odlučile pozabaviti izradom alata koji bi prepoznavali i upozoravali na deepfake videosnimke.
Jedan takav alat, Deepware, nastao je u našem susjedstvu. Bosansko-turska IT tvrtka Zemana u Sarajevu je razvila alat koji analizira snimke i signalizira radi li se o originalu ili pak lažnjaku.
Zlonamjerne aktivnosti na internetu napreduju iz dana u dan. Zemana skoro dvije godine radi na razvijanju deep learning i ML algoritama koje smo počeli primjenjivati za detekciju malwarea. Jednostavno smo uvidjeli da bi deepfake mogao postati ozbiljan problem te smo se upustili u izradu jednog programa koji će se boriti protiv njega. Deepfake primarno dovodi do narušavanja reputacije osobe koja je zahvaćena, dovodi do ugrožavanja sigurnosti, pa čak i rata, pojasnio je za Klix.ba Samir Mujović, zamjenik direktora Zemane.
Da deepfake video nije samo prolazni fenomen, pokazuje i činjenica da su najveće svjetske tehnološke kopanije pokrenule kampanju za razvoj različitih alata za borbu protiv deepfakea i nazvale ga Deepfake Detection Challenge.
Bosansko-turski uradak Deepware zapravo je višeslojni neuralni alat koji analizira različite vrste sadržaja ne bi li otkrio radi li se o lažnom (deepfake) ili originalnom sadržaju. Trenutno je u alfa-verziji i mogu ga koristiti svi. Dovoljno je ubaciti link sumnjivog videa, audiosnimke ili čak teksta, i sustav će ga analizirati te pokazati radi li se o lažnom ili originalnom sadržaju.
No Deepware se može integrirati i u različite platforme kako bi odmah po pokretanju odnosno učitavanju određenog sadržaja gledatelja, slušatelja ili čitatelja upozorio na lažni sadržaj.
S obzirom na to da se iz dana u dan u svijetu pojavljuju sve uvjerljiviji deepfake materijali, a da je njihova proizvodnja sve lakša i jeftinija, čini se kako će alati poput Deepwarea postati neizbježni.
