Generativni AI alati poput OpenAI-jevog ChatGPT-a omogućuju porast lažnih online recenzija, narušavaju povjerenje potrošača i postavljaju izazov pred proizvođače da zadrže autentičnost, ističu stručnjaci i nadzorne skupine. Ti alati omogućuju prevarantima da brzo i u velikim razmjerima stvaraju lažne recenzije, komplicirajući borbu protiv prijevara u recenzijama, problem koji već prevladava na platformama poput Amazona.
Rastuća prijetnja
Lažne recenzije već su dugo problem, često se trguje na privatnim grupama na društvenim mrežama ili ih tvrtke potiču nagradama poput darovnih kartica. Međutim, AI alati su eskalirali problem. To je samo stvarno, stvarno dobar alat za te prevarante s recenzijama, kaže za agenciju AP Maury Blackman, investitor i savjetnik tehnoloških startupa, koji je pregledao istraživanje tvrtke Transparency Company.
Njihova nedavna analiza 73 milijuna recenzija u kućnim, pravnim i medicinskim uslugama otkrila je da ih je gotovo 14% vjerojatno lažno, a 2,3 milijuna pokazuje jasne znakove da su napravljene putem umjetne inteligencije. Problem se pojačava tijekom sezone blagdanske kupovine, vremena kada se potrošači uvelike oslanjaju upravo na recenzije.
Gdje se nalaze lažne recenzije
Recenzije generirane umjetnom inteligencijom obuhvaćaju razne industrije, od e-trgovine do usluga poput medicinske skrbi i kućnih popravaka. Također se infiltriraju u trgovine aplikacija. Tvrtka DoubleVerify je u kolovozu izvijestila o porastu recenzija izrađenih pomoću umjetne inteligencije koje se koriste za promoviranje lažnih aplikacija. Te recenzije često dovode korisnike u zabludu da instaliraju aplikacije koje otimaju uređaje ili ih bombardiraju oglasima.
U međuvremenu, platforme poput Amazona suočavaju se s izazovima u otkrivanju recenzija koje je generirala umjetna inteligencija. Max Spero, izvršni direktor Pangram Labsa (tvrtka koja se bavi zaštitom platformi i drugih tvrtki od najezde prijevara generiranih AI-jem), primijetio je da se mnoge od tih recenzija čine detaljnim i dobro konstruiranim, što ih čini teškim za prepoznavanje korisnicima.
Rješavanje problema
Tehnološke tvrtke pojačavaju napore u borbi protiv prijevara s recenzijama. Amazon i Trustpilot dopuštaju recenzije uz pomoć umjetne inteligencije ako odražavaju istinska iskustva, dok druge platforme provode i stroža pravila, zahtijevajući od korisnika pisanje originalnog sadržaja.
Organizacije poput Coalition for Trusted Reviews koriste umjetnu inteligenciju da uzvrate udarac. Grupa, koja uključuje Amazon i Tripadvisor, ima za cilj razviti napredne sustave detekcije za zaštitu potrošača. Dijeljenjem najboljih praksi i podizanjem standarda... možemo zaštititi potrošače i održati integritet online recenzija, ističu iz navedene koalicije.
Prepoznavanje lažnih recenzija
Uočavanje lažnih recenzija sve je teže. Stručnjaci savjetuju potrošačima da traže pretjerano entuzijastičan jezik, ponavljanje naziva proizvoda i klišeje. Recenzije koje generira umjetna inteligencija često pokazuju strukturirani, poduži tekst s "praznim deskriptorima" i generičkim izrazima. Unatoč tim tragovima, studije, uključujući i onu koju je proveo profesor Balázs Kovács s američkog Sveučilišta Yale, sugeriraju da korisnici teško razlikuju recenzije koje su napisali ljudi od onih koje je generirala umjetna inteligencija.
