Razvoj AI alata, pogotovo onih za stvaranje AI fotografija i videa uvelike je otežao borbu protiv lažnih informacija. Jer čini se kako je danas lakše nego ikad napraviti deepfake video u kojem naizgled sudjeluje neki svjetski političar i govori o ljepotama ulaganja u neku, dosad, nepoznatu valutu.
Kako su alati sve bolji, sve je teže i odrediti radi li se o pravoj snimci ili o lažnoj. Na tržištu trenutno postoji cijeli niz alata koji bi trebali pomoći u razlikovanju, no ni oni ne mogu prepoznati lažni video baš svaki put. A i često su skupi za korištenje.
Stoga je tim istraživača sa Sveučilišta Cornell želio razviti bolji način prepoznavanja "originalnih snimki. A kako bi to uspjeli okrenuli su se - svjetlu.
Točnije, razvili su "svjetslosni žig" koji se može koristiti za otkrivanje je li neki videozapis lažan ili njime manipulirano.
Video se prije tretirao kao izvor istine, ali to više nije pretpostavka koju možemo donijeti, rekao je Abe Davis, docent računarstva na Cornell Ann S. Bowers College of Computing and Information Science, koji je prvi došao na tu ideju. Sada možete stvoriti video gotovo svega što želite. To može biti zabavno, ali i problematično, jer je sve teže reći što je stvarno.
Ideja im je bila sakriti informacije u gotovo nevidljivim fluktuacijama osvjeljenja na važnim događajima i lokacijama. Svojevrsno skrivanje informacija u sjenama.
Ove fluktuacije osmišljene su tako da ih ljudi ne primjećuju, ali se bilježe kao skriveni svjetlosni žig u svakom videu snimljenom pod posebnim osvjetljenjem, koje se može programirati u računalne zaslone, fotografske lampe i ugrađenu rasvjetu. Svaki izvor svjetlosti sa svjetlosnim žigom tako ima tajni kod koji se može koristiti za provjeru odgovarajućeg svjetlosnog žiga u videu i otkrivanje bilo kakve zlonamjerne montaže.
Ugrađivanjem koda u rasvjetu, nova metoda osigurava da svaki stvarni videozapis subjekta sadrži tajni svjetlosni žig, bez obzira tko ga je snimio. Tim je pokazao da se programabilni izvori svjetlosti, poput računalnih ekrana i određenih vrsta rasvjete prostorija, mogu kodirati malim softverom, dok se starija svjetla, poput mnogih standardnih lampi, mogu kodirati pričvršćivanjem malog računalnog čipa veličine poštanske marke. Program na čipu mijenja svjetlinu svjetla prema tajnom kodu.
Što se skriva u sjeni?
Koje se tajne informacije kriju u tim svjetlosnim žigovima i kako otkrivaju kada je video lažan?
Svaki svjetlosni žig nosi vremenski označenu verziju nemanipuliranog videa niske vjernosti pod malo drugačijim osvjetljenjem. To nazivamo kodnim videozapisima, rekao je Davis. Kada netko manipulira videozapisom, manipulirani dijelovi počinju proturječiti onome što vidimo u tim kodnim videozapisima, što nam omogućuje da vidimo gdje su napravljene promjene. A ako netko pokuša generirati lažni video pomoću umjetne inteligencije, rezultirajući kodni videozapisi izgledaju samo kao nasumične varijacije.
Dio izazova u ovom radu bio je postići da kod bude uglavnom neprimjetan ljudima.
Koristili smo studije iz literature o ljudskoj percepciji kako bismo informirali naš dizajn kodiranog svjetla, rekao je Peter Michael, diplomirani student računalnih znanosti koji je vodio rad. Kod je također dizajniran da izgleda kao nasumične varijacije koje se već javljaju u svjetlu, a nazivaju se 'šum', što ga također otežava otkrivanje, osim ako ne znate tajni kod.
Tim je uspješno koristio do tri odvojena koda za različita svjetla u istoj sceni. Sa svakim dodatnim kodom, uzorci postaju složeniji i teže ih je krivotvoriti.
Čak i ako zlonamjerni ljudi znaju da se tehnika koristi i nekako shvate kodove, njihov je posao i dalje puno teži, rekao je Davis. Umjesto da lažiraju svjetlo samo za jedan video, moraju lažirati svaki video s kodom zasebno, a svi ti lažnjaci moraju se međusobno slagati.
Također su potvrdili da ovaj pristup djeluje u nekim vanjskim okruženjima i na ljudima s različitim tonovima kože.
Davis i Michael, međutim, upozoravaju da je borba protiv dezinformacija utrka u naoružanju i da će protivnici nastaviti smišljati nove načine obmane.
Ovo je važan i stalan problem, rekao je Davis. Neće nestati, zapravo će samo postati teže.
Studiju pod nazivom „Osvjetljenje kodirano šumom za forenzički i fotometrijski video “ predstavljena je na konferenciji SIGGRAPH 2025 u Vancouveru, Britanska Kolumbija.
