Microsoftu prijeti kazna zbog deepfakea i halucinacija u tražilici Bing

Europska komisija u petak je Microsoftu odredila da do 27. svibnja obvezno dostavi dokumente koji se odnose na korištenje generativne umjetne inteligencije (AI) u njegovoj tražilici Bing.

Hina | 17.05.2024. / 15:20

Bing i Edge s AI (Foto: Afp)

Obvezujući rok se odnosi na dva sustava – 'Copilot in Bing', višenamjenski sustav koji može stvarati tekst i slike na temelju upita korisnika, i 'Image Creator by Designer', generator slika.

Komisija sumnja da AI generira lažne informacije, poznate kao „halucinacije”, iz ovih sustava, kao i 'deepfake' generiran umjetnom inteligencijom te manipulira biračima, čime se moguće krši EU Zakon o digitalnim uslugama (DSA).

DSA je sveobuhvatni propis o mrežnom sadržaju koji između ostaloga zahtijeva da vrlo velike platforme poput Microsofta kontroliraju širok niz različitih rizika povezanih s njihovim uslugama. Generativni AI sustavi omogućuju korisnicima stvaranje sadržaja pomoću upita. Primjerice, od sustava se može tražiti da odgovori na pitanja, da se napiše esej, priča ili pjesma, te da se generira slika ili zvuk.

Microsoft i GPT tehnologija Nakon Velike Britanije dogovor OpenAI i Microsofta pod povećalom Europske komisije

Instagram, Facebook i Messenger Nova istraga protiv Facebooka i Instagrama u EU-u

"Halucinacije" se javljaju kada korisnik postavi pitanje generativnom AI sustavu i dobije netočan odgovor. 'Deepfakes' uključuje namjerno korištenje umjetne inteligencije za manipuliranje slikom ili videom stvarne osobe kako bi ih se lažno predstavilo - na primjer, kako bi im se stavilo određene riječi u usta.

Ako Microsoft ne dostavi tražene dokumente na vrijeme, DSA omogućuje Komisiji da kazni tvrtku do jedan posto njezinog globalnog godišnjeg prihoda te nametanje dodatne kazne na dnevnoj razini do pet posto njezinog dnevnog prihoda. Ako Komisija na kraju zaključi da Microsoft nije uspio ublažiti rizike navedene u DSA-u, kazne bi mogle doseći šest posto globalnog godišnjeg prihoda.

Još brže do najnovijih tech inovacija. Preuzmi DNEVNIK.hr aplikaciju

Vezane vijesti

Još vijesti