Iako Google ulaže velike resurse u umjetnu inteligenciju, kompanija se do sada nije proslavila sa svojim AI alatima. Prvo je prilikom predstavljanja njihov AI chatbot Bard napravio jednu veliku pogrešku, odnosno dao je krivi odgovor na pitanje o teleskopu James Webb zbog koje je kompanija izgubila više od 100 milijardi dolara tržišne vrijednosti, da bi se Google naknadno našao na udaru kritika nakon što su predstavili AI alat za generiranje slika.
Za Googleov alat mnogi su komentirali kako je treniran u Woke duhu jer su rezultati koje je prikazivao bili tragikomični - od crnog pape i žene prikazane kao papa do nacističkih vojnika tamne kože pa do Vikinga različitih rasa. Osim kroz kritike, Google je ovu grešku osjetio i kroz novi gubitak tržišne vrijednosti pa je ta vrijednost pala za 90 milijardi dolara.
Kompanija je povukla alat s tržišta kako bi ispravili ove greške, a nakon više mjeseci novog treniranja i razvoja, ovaj tjedan iz kompanije su objavili kako će taj alat ponovno postati dostupan. Model Imagen 3 dolazi sa zaštitnim mjerama kako bi se izbjeglo stvaranje kontroverznih slika te ne podržava generiranje fotorealističnih, prepoznatljivijih pojedinaca, prikaz maloljetnika i nasilne i seksualne scene. Također, Googleova AI odbit će generirati fotografije nekih prepoznatljivih i popularnih osoba pa tako na Ars Tehnici, čiji su novinari imali već prilike testirati ovaj model, Imagen 3 nije htio generirati fotografija Bidena kako igra košarku, no zato su dobili odgovor na upit o američkog predsjednika koji igra košarku.
Na početku ova mogućnost ipak neće biti dostupna svima, već će tijekom sljedećih dana postati dostupna korisnicima njihovih pretplatničkih servisa poput Gemini Advanceda, Gemini Businessa i Gemini Enterprisea. Iz tehnološkog diva kažu kako su nadogradili svoje kreativne mogućnosti generiranja slika te da njihov alat za stvaranje slika postavlja novi standard za kvalitetu slika koji generira slike na temelju samo nekoliko riječi. Naglašavaju kako neće svaka fotografija koju Gemini stvori biti savršena, no pratit će reakcije korisnika i njihove komentare kako bi mogli dodatno unaprijediti svoje alate.
Na Ars Tehnici su testirali ovaj model s upisom pojmova koji su se ranije pokazali problematičnim poput slika Vikinga, pape i slično i ovog puta Googleova AI nije dala woke odgovore, već su prikazali slike kakve bi očekivali za takve upite.
