Umjetna inteligencija u kratko je vrijeme unijela velike promjene u naše živote. Čak i ako aktivno ne koristite alate umjetne inteligencije, velika je vjerojatnost da koristite neke servise i usluge koje u pozadini pokreće umjetna inteligencija.
No, znanstvenici sa Sveučilišta Cambridge upozoravaju kako bi se preveliko oslanjanje na umjetnu inteligenciju moglo ljudima obiti o glavu. Njihovo posljednje istraživanje ističe kako bi alati umjetne inteligencije mogli biti korišteni za manipuliranje ljudima tijekom donošenja odluka i to u svim sferama života - od toga koji kruh kupiti u trgovini do toga za koga glasati na izborima.
Istraživanje objavlječno u časopisu Harvard Data Science Review, upozorava kako eksplozija generativne umjetne inteligencije i sve veće korištenje takvih alata otvara "novu granicu uvjerljivih tehnologija". Istraživači dodaju kako je svijet na pragu "unosnog, ali problematičnog novog tržišta za digitalne signale namjera" i nazivaju ga "ekonomijom namjere".
O čemu se točno radi? Kako pojašnjavaju, "antropomorfni" asistenti pogonjeni umjetnom inteligencijom imat će pristup golemim količinama psiholoških podataka i podataka o ponašanju, prikupljenih putem neformalnog dijaloga s korisnikom.
Tako će umjetna inteligencija kombinirati znanje o korisnikovim navikama i prilagođavati se oponašajući osobnosti i predviđajući željene odgovore koji bi korisniku najbolje odgovarali. To bi moglo izgraditi različite razine povjerenja i razumijevanja i omogućiti društvenu manipulaciju na industrijskoj razini.
Ogromni resursi se troše kako bi se pomoćnici s umjetnom inteligencijom postavili u svako područje života, što bi trebalo postaviti pitanje čijim su interesima i svrhama ti takozvani pomoćnici dizajnirani da služe, rekao je dr. Yaqub Chaudhary, gostujući znanstvenik Leverhulme Centra za budućnost inteligencije (LCFI) iz Cambridgea. Ono što ljudi govore tijekom razgovora, kako to govore i vrsta zaključaka koji se kao rezultat toga mogu izvesti u stvarnom vremenu daleko su intimniji od pukih zapisa online interakcija. Upozoravamo da se alati umjetne inteligencije već razvijaju za izvođenje, zaključivanje, prikupljanje, bilježenje, razumijevanje, predviđanje i konačno manipuliranje i komodificiranje ljudskih planova i svrha.
U svom istraživanju, Caudhary i povjesničar tehnologija dr. Jonnie Penn, ističu kako će ekonomija namjere biti ekonomija pozornosti - profilirat će kako se pažnja korisnika i komunikacijski stil povezuju s obrascima ponašanja i izborima koje na kraju donosimo.
Pojašnjavaju kako se u ekonomiji namjera, veliki jezični modeli (poput ChatGPT-a) mogu kroistiti za ciljanje politike, rječnika, dobi, spola, online povijesti, pa čak i preferencija za laskanje i dodvoravanje.
Dodaju i kako velike tehnološke tvrtke već razrađuju algoritme i prikupljaju skupove podataka za razumijevanje ljudskih namjera i sugeriranje namjera u budućnosti.
Da bismo dobili komercijalnu prednost, logičan sljedeći korak je korištenje tehnologije koju oni jasno razvijaju za predviđanje naših namjera i prodaju naših želja prije nego što uopće u potpunosti shvatimo što one jesu, naglašava Penn te dodaje kako ti događaji nisu nužno loši, ali imaju potencijal biti destruktivani. Javna svijest o onome što dolazi ključna je da ne krenemo krivim putem, poručio je na kraju.
Izvor: University Cambridge
