Dobro je poznato kakav je potencijal umjetne inteligencije. Ako se razvija i trenira na pravi način, kako bi ova tehnologija pomogla čovječanstvu, ono što nam donosi budućnost zvuči fantastično - život u kojem ljudi rade samo ono što žele, a ne moraju i pri tome nema straha od teških bolesti jer će AI pronaći rješenje, odnosno lijekove i za njih.
Zvuči fantastično i prilično utopistički, no stvarnost će vjerojatno biti drukčija. Na to je nedavno upozorio izvršni direktor Surgea AI-a Edwin Chen, a prenose na Business Insideru. Njegova je tvrtka razvila platformu Data Annotation koja plaća milijun freelancera za treniranje AI model, a jedan od njihovih klijenata jest Anthropic.
Chen je u jednom podcastu objasnio kako, umjesto razvoja umjetne inteligencija koja bi nas poboljšala kao vrstu, izliječila rak, riješila siromaštvo, pomogla u shvaćanju svemira i odgovorila na sva ta velika pitanja, danas u biti optimiziramo tzv. AI slop sadržaj, odnosno površan i nekvalitetan, a često i netočan sadržaj.
Dopamin umjesto istine
U suštini učimo naše modele da traže dopamin umjesto istine, komentirao je. Razlog zašto to rade su tzv. rang ljestvice poput LMArene gdje korisnici mogu glasati o kvaliteti AI odgovora, odnosno koji su odgovori od ponuđenih bolji. Korisnici ne čitaju pažljivo te odgovore i ne provjeravaju njihovu istinitost, već ih pogledaju na 2 sekunde i odaberu onaj odgovor koji im zvuči efektno, umjesto istinito. Zbog toga se neki AI modeli treniraju kako bi zvučali što bolje i što pametnije, umjesto da budu točni i korisni.
Razlog zašto to rade jest kako bi mogli konkurirati i biti što bolji na tim ljestvicama, jer njihovi klijenti često gledaju te ljestvice i njihov poredak. U teoriji može se dogoditi da lošiji AI model bude bolje rangiran upravo zato što daje odgovore koji su efektniji i bolje zvuče, no njihova je kvaliteta lošija u odnosu na odgovore niže rangiranih modela.
Umjesto da se modeli optimiziraju za složeno razmišljanje i davanje pouzdanih informacija, oni se treniraju kako bi prepoznali obrasce onoga što ljude vole i što im bolje zvuči.
Na sličan problem tijekom ove godine upozorilo je više stručnjaka. Dean Valentine iz kompanije za AI sigurnost ZeroPath tako je još početkom godine upozorio kako su novi modeli umjetne inteligencije zabavniji za razgovor, no s njima nije ostvaren neki konkretan napredak, niti povećavaju ekonomsku vrijednost.
Prema Chenu, ako se takav razvoj nastavi i dalje, umjetna inteligencija bi mogla postati samo još jedan alat za zabavu, a ne za stvarne civilizacijske pomake jer će AI kompanijama od veće važnosti postati brzina rasta i nekakve zanimljive i efektne demonstracije tehnologije, nego njena dugoročna znanstvena vrijednost.
Izvor: Business Insider
