Timnit Gebru, Amerikanka porijeklom iz Etiopije, bivša je zaposlenica Googlea koja je tu kompaniju upozoravala na problem pristranosti u njihovim takozvanim large language modelima (LLM) te pozivala na strukturalne promjene na polju umjetne inteligencije. Ona tvrdi da je zbog toga dobila otkaz u tehnološkom gigantu, dok Google pak tvrdi da je sama dala otkaz.

Gebru je 2020. zajedno s kolegama napravila studiju u kojoj su istaknuli ekološke i financijske troškove LLM-ova te upozoravali kako ih se ne bi trebalo previše širiti. Gebru je za RT pojasnila da LLM-ovi troše previše računalne snage te da od njih koristi imaju samo oni koji raspolažu s ogromnom računalnom snagom, no da ti pojedinci zapravo nisu oni koji i plaćaju troškove te tehnologije.

Povrh toga, čitav problem nakupio se u nešto što Gebru naziva okolišnim rasizmom.

LLM modeli koriste podatke s interneta za učenje, no to ne znači da oni uključuju sva mišljenja dostupna online, kaže Gebru čija je spomenuta studija ukazivala na opasnosti takvog pristupa koji bi potencijalno mogao dovesti do toga da se umjetna inteligencija uvježba za uvrštavanje pristranosti i govora mržnje.

Kao najzorniji navela je primjer Palestinca kojeg je izraelska policija navodno uhitila nakon što su Facebookovi algoritmi graškom preveli njegovu objavu Dobro jutro, kao Napadnite ih.

Gebru je za RT rekla kako je otkrila da šefovi u Googleu doista ne vole kad im se ukaže na problem koji je istovremeno nezgodan ili koji im je prevelik da bi ga priznali.

Google je od Gebru tražio da povuče spomenutu znanstveno recenziranu studiju, koja je trebala biti objavljena tijekom jedne znanstvene konferencije. Gebru tvrdi da je Google to tražio samo zato što je njezina studija pokazala previše problema s LLM-ovima.

Gebru ističe da je strategija tehnoloških divova poput Googlea, Facebooka i Amazona pretvarati se da je pristranost umjetne inteligencije čisto tehnički problem, problem algoritma koji treba riješiti te da nema nikakve veze s antitrustovskim zakonima, monopolom, problemom radne snage ili dinamike moći.

Trebamo regulaciju i mislim da su se zbog toga sve te organizacije i kompanije okomile na mene i par drugih ljudi, jer smatraju da mi zagovaramo veće strukturalne promjene, a ne popravak algoritma, pojasnila je Gebru.

Gebru je nakon odlaska iz Googlea pokrenula grupu Black in AI, kojem je cilj ujediniti afroameričke znanstvenike na polju umjetne inteligencije. Isto tako pokušava okupiti tim za međudisciplinarno isztraživanje kako bi nastavila sa svojim radom na tom polju. Smatra da u svemu tome za nju neće biti puno novca, ali opravdava na drugi način.

Ako je vaš primarni cilj maksimizirati profite, onda ćete raditi prečace i završiti stvaranjem upravo čiste suprotnosti etičkoj umjetnoj inteligenciji, poručuje Gebru.

Izvor: RT

Još brže do najnovijih tech inovacija. Preuzmi novu DNEVNIK.hr aplikaciju