Sve raširenija uporaba generativne umjetne inteligencije dovela je do pojave problema autentičnosti i istinitosti. To je posebno vidljivo u slučaju fotografija i videa nastalih pomoću umjetne inteligencije. Dok su alati na početku bili prilično nespretni u izradi novih AI fotografija, pa nije bila rijetkost da osoba na AI fotografiji ima tri ruke ili višak prstiju, danas su ti isti alati toliko sofisticirani da je sve teže razlikovati "pravu" fotografiju i video od one umjetno stvorene.
Stoga ne iznenađuje da tvrtke diljem svijeta pokušavaju osmisliti način razlikovanja AI fotografije od prave. Googleov DeepMind odjel za umjetnu inteligenciju razvio je svojevrsni digitalni vodeni žig za otkrivanje slika koje je izradila umjetna inteligencija.
Alat pod imenom SynthID trebao bi identificirati fotografije koje generira AI zahvaljujući ugradnji posebnih oznaka na fotografije. Točnije, SynthID će promijeniti pojedinačne piksele unutar fotografije, tako da te promjene ne budu vidljive ljudskom oku, ali da ih strojevi (odnosno alati) mogu detektirati.
Dizajnirali smo SynthID tako da ne ugrožava kvalitetu slike i omogućuje da vodeni žig ostane vidljiv, čak i nakon izmjena kao što su dodavanje filtara, mijenjanje boja i spremanje s različitim shemama kompresije s gubitkom, koje se najčešće koriste za JPEG.
SynthID koristi dva modela dubinskog učenja - za vodeni žig i identifikaciju - koji su zajedno uvježbani na različitim skupovima slika. Kombinirani model optimiziran je za niz ciljeva, uključujući ispravnu identifikaciju sadržaja s vodenim žigom i poboljšanje neprimjetnosti vizualnim poravnavanjem vodenog žiga s izvornim sadržajem, pojašnjavaju iz DeepMinda.
No, kako ističu iz Googleova DeepMinda, alat nije savršen i ne može detektirati ekstremnu manipulaciju fotografijama. Osim toga, SynthID vodeni žigovi primjenjivat će se samo na Googleovu generatoru slika Imagenu. To znači da će ostale fotografije i slike nastale pomoću drugih alata, kao što je Midjourney, ostati - neotkrivene.
Da bi se u industriju uveo određeni alat koji bi svi koristili, potreban je širi dogovor i, vjerojatno, razvoj određenog standarda. Zasad to nije slučaj i na tržištu su se već pojavili alati koji bi trebali detektirati AI fotografije. Neki su više, a neki manje uspješni.
SynthID će zasad biti korišten u Googleovim proizvodima, ali kako najavljuju iz DeepMinda, mogao bi biti ugrađen i u neke proizvode izvan Googleova ekosustava.
SynthID bi se mogao proširiti za korištenje u drugim modelima umjetne inteligencije i uzbuđeni smo zbog potencijala njegove integracije u više Googleovih proizvoda i dostupnosti trećim stranama u bliskoj budućnosti - osnažujući ljude i organizacije da odgovorno rade sa sadržajem generiranim umjetnom inteligencijom, zaključuju na kraju iz DeepMinda.
