zimo mobile logo
  • Tehnologija
  • Znanost
  • Društvene mreže
  • Esport
  • Business
Prati nas:
Upravljaj obavijestima
  • Prijavi se na newsletter
  • Imaš priču? Pošalji
  • Pišite nam
  • Uredništvo
  • Oglašavanje i marketing
  • Uvjeti korištenja
  • Vijesti
  • Video
  • Zadovoljna
  • Tech
  • Blog
  • Nova TV
  • Doma TV
Nova TV
  • Vijesti
  • Video
  • Zadovoljna
  • Tech
  • Blog
  • Nova TV
  • Doma TV
  • zimo logo
  • Tehnologija
  • Znanost
  • Društvene mreže
  • Esport
  • Business
Prati nas:
  • Dnevnik.hr
  • Vijesti
  • Sport
  • Showbizz
  • Lifestyle
  • Putovanja
  • Zdravlje
  • Biznis
  • Zabava
  • Teen
  • Tv
Tehnologija

Trebamo smiriti doživljaj: Umjetna inteligencija uopće nije prijetnja, tvrde znanstvenici

Nova studija uvjerava da napredni modeli umjetne inteligencije, unatoč strahovima, ostaju vezani svojim programiranjem, ne predstavljajući prijetnju autonomije i otuđivanja od čovjeka.

Branimir Vorša | 22.08.2024. / 08:01 komentari

Podijeli

Umjetna inteligencija (Foto: Getty Images)

Znanstvena fantastika često prikazuje umjetnu inteligenciju kao prijetnju čovječanstvu, sa scenarijima poput HAL-9000 (2001: Odisjea u svemiru) i Skyneta (Terminator franšiza) koji naglašavaju strah od strojeva koji će se okrenuti protiv svojih tvoraca. Danas, s porastom sofisticiranih velikih jezičnih modela (LLM-ova) kao što je Chat GPT, te su brige postale relevantnije.

tri vijesti o kojima se priča Mlada djevojka, ilustracija Neki bi joj zavidjeli U strahu da ne ispadne čudna samo je obitelji priznala što može. Znanstvenici oduševljeni: "Takvih ima samo 100" Nastava, ilustracija Što napraviti?! Situacija nikad nije bila gora: Profesori tvrde kako su domaće zadaće izgubile svaki smisao Appleovi telefoni, ilustracija Vrijeme radi svoje… Ako imate ove modele telefona, možda je vrijeme da ih zamijenite i kupite nove

Međutim, nova studija koju su vodili računalni znanstvenici Iryna Gurevych s Tehničkog sveučilišta u Darmstadtu u Njemačkoj i Harish Tayyar Madabushi sa Sveučilišta u Bathu u Velikoj Britaniji, donosi umirujuće vijesti. Studija zaključuje da ti LLM modeli nisu sposobni otuđiti se, budući da su previše ograničeni svojim programiranjem da razviju nove sposobnosti bez čovjekovih instrukcija.

Neopravdani strah i nedostatak istinske inteligencije

Strah je bio da će, kako modeli postaju sve veći i veći, moći riješiti nove probleme koje trenutno ne možemo predvidjeti, što predstavlja prijetnju da bi ti veći modeli mogli steći opasne sposobnosti, uključujući razmišljanje i planiranje. Naša studija pokazuje da strah da će se LLM model oteti kontroli i učiniti nešto potpuno neočekivano, inovativno i potencijalno opasno nije valjan, objašnjava Tayyar Madabushi.

Unatoč značajnom napretku u LLM tehnologiji, koji sada može sudjelovati u koherentnim tekstualnim razgovorima oponašajući ljudsku interakciju, još uvijek joj nedostaje istinska inteligencija. LLM modeli mogu uvjerljivo prenijeti netočne informacije, ali to je zbog ograničenja u obradi, a ne autonomnog zaključivanja.

Kontrola procesa učenja

Znanstvenici su nedavno istražili ideju o "nastajućim sposobnostima" u LLM modelima, odnosno vještinama koje bi se mogle razviti neovisno o njihovom programiranju. Međutim, eksperimenti studije s četiri različita LLM-a nisu pronašli dokaze o takvom autonomnom ponašanju. Prikazane sposobnosti objašnjene su sposobnošću modela za praćenje uputa, pamćenje i lingvističkim sposobnostima, bez znakova neovisnih ili nepredviđenih radnji.

Naši rezultati ne znače da umjetna inteligencija uopće nije prijetnja... Ipak možemo vrlo dobro kontrolirati proces učenja LLM-a. Buduća bi se istraživanja stoga trebala usredotočiti na druge rizike koje predstavljaju modeli, kao što je njihov potencijal koristiti za stvaranje lažnih vijesti, pojašnjava Gurevych.

Istraživanje je objavljeno u zborniku radova 62. godišnje skupštine međunarodne Udruge za računalnu lingvistiku (ACL).

Izvor: Science Alert
 

PODIJELJENO 0 PUTA

Podijeli

aktualno najčitanije
Fizičari žele napraviti laser koji podsjeća na znanstvenu fantastiku, s ciljem hvatanja najneuhvatljivijih čestica u svemiru
Put do najdubljih tajni
Fizičari žele napraviti laser koji podsjeća na znanstvenu fantastiku, s ciljem hvatanja najneuhvatljivijih čestica u svemiru
Avantura s mikrobima: Ove subote Maksimir postaje laboratorij na otvorenom
Međunarodni dani mikroorganizama
Avantura s mikrobima: Ove subote Maksimir postaje laboratorij na otvorenom
Potez Mercedesa pokazuje u kojem smjeru ide automobilska industrija
Povratak na staro
Potez Mercedesa pokazuje u kojem smjeru ide automobilska industrija
Uzimate vitamin D2 kao dodatak prehrani? Obratite pažnju na ovaj njegov neočekivani učinak
Novo istraživanje otkriva
Uzimate vitamin D2 kao dodatak prehrani? Obratite pažnju na ovaj njegov neočekivani učinak
SoMo Borac dovodi Pinterest u Zagreb
Konferecija o digitalnom marketingu
SoMo Borac dovodi Pinterest u Zagreb
Jeftini električni automobili stižu kada se ispuni samo jedan uvjet: Evo koji
Objasnio CEO europskog odjela Kije
Jeftini električni automobili stižu kada se ispuni samo jedan uvjet: Evo koji
Fascinantna sposobnost 17-godišnjakinje oduševila znanstvenike: Takvih je ljudi tek stotinjak na svijetu
Neki bi joj zavidjeli
U strahu da ne ispadne čudna samo je obitelji priznala što može. Znanstvenici oduševljeni: "Takvih ima samo 100"
Opasan ruski dron prkosi sankcijama: Ima mlazni pogon, satelitsku navigaciju i prepun je komponenti iz Kine i Zapada
Geran-3
Opasan ruski dron prkosi sankcijama: Ima mlazni pogon, satelitsku navigaciju i prepun je komponenti iz Kine i Zapada
Srbi moderniziraju oklopna vozila, ovo su detalji
Kupili ih od Mađara
Srbi moderniziraju oklopna vozila, ovo su detalji
VIDEO Tajvan priredio iznenađenje za Kinu - nov i vrlo moćan presretač balističkih projektila vlastite proizvodnje
Jačaju obranu
VIDEO Tajvan priredio iznenađenje za Kinu - nov i vrlo moćan presretač balističkih projektila vlastite proizvodnje
Ako imate ove modele telefona, možda je vrijeme da ih zamijenite i kupite nove
Vrijeme radi svoje…
Ako imate ove modele telefona, možda je vrijeme da ih zamijenite i kupite nove
Telefoni se "pretvorili u cigle": Korisnici iPhonea bijesni nakon nadogradnje na novi softver
Razočaranje
Telefoni se "pretvorili u cigle": Korisnici iPhonea bijesni nakon nadogradnje na novi softver

Vezane vijesti

Ne propustite ni ovo

vijesti
FOTO Dramatična intervencija u Slavoniji! Vatrogasci spašavali radnike prignječene ispod zida
ostali prignječeni
FOTO Užas u Slavoniji: Na radnike se srušio zid
Adni (26) je pozlilo na vlastitom vjenčanju: Dva dana nakon je umrla
tuga u susjedstvu
Adni (26) je pozlilo na vlastitom vjenčanju: Umrla je dva dana poslije
Poljska i dalje u stanju visoke pripravnosti: Otkrili tko je poslao dron iznad vladine zgrade
Dovršena istraga
Otkriveno tko je upravljao dronom u Poljskoj: Krivac ipak nije Bjelorus
show
Trudna supruga Janka Popovića Volarića Lovorka Sršen žrtva je krađe
postala žrtva
Trudna supruga Janka Popovića Volarića moli za pomoć, našla se u teškoj situaciji
Pogledajte neugodan trenutak između Kate Middleton, kraljice Camille i Melanije Trump
video je viralan
Neugodnjak! Pogledajte čudan trenutak razgovora Camille i Melanije o kojem svi pričaju
Tko je političarka Sanda Livia Maduna?
ima tek 32 godine
Tko je naša atraktivna zastupnica čiji životopis sve više privlači hrvatsku javnost?
zdravlje
Ovo je najbolji kruh za mršavljenje prema nutricionistima!
Ne morate ga se odreći!
Ovo je najbolji kruh za mršavljenje prema nutricionistima!
Previše ovog vitamina može povećati rizik od raka!
Važna informacija
Previše ovog vitamina može povećati rizik od raka!
Otkrijte kako 14 dana mijenja vaš imunološki sustav
POKROVITELJ DONAT
Otkrijte kako 14 dana mijenja vaš imunološki sustav
zabava
Prizor iz zoološkog vrta u Sarajevu zgrozio posjetitelje, a stigao je i odgovor uprave vrta
Zanimljivo
Prizor iz zoološkog vrta u Sarajevu zgrozio posjetitelje, a stigao je i odgovor uprave vrta
Ovaj kviz otkriva tko je pravi znalac, a tko smo pogađa odgovore
Pokažite što znate!
Ovaj kviz otkriva tko je pravi znalac, a tko smo pogađa odgovore
Splićaninov parking ostavio publiku bez riječi! Neki si stvarno svašta dopuštaju
Zanimljivo rješenje
Splićaninov parking ostavio publiku bez riječi! Neki si stvarno svašta dopuštaju
tech
Fascinantna sposobnost 17-godišnjakinje oduševila znanstvenike: Takvih je ljudi tek stotinjak na svijetu
Neki bi joj zavidjeli
U strahu da ne ispadne čudna samo je obitelji priznala što može. Znanstvenici oduševljeni: "Takvih ima samo 100"
VIDEO Tajvan priredio iznenađenje za Kinu - nov i vrlo moćan presretač balističkih projektila vlastite proizvodnje
Jačaju obranu
VIDEO Tajvan priredio iznenađenje za Kinu - nov i vrlo moćan presretač balističkih projektila vlastite proizvodnje
Opasan ruski dron prkosi sankcijama: Ima mlazni pogon, satelitsku navigaciju i prepun je komponenti iz Kine i Zapada
Geran-3
Opasan ruski dron prkosi sankcijama: Ima mlazni pogon, satelitsku navigaciju i prepun je komponenti iz Kine i Zapada
sport
Livaković nakon velike drame predstavljen u Gironi: "Modrić mi je lijepo govorio..."
Objasnio situaciju
Livaković nakon velike drame predstavljen u Kataloniji: "Modrić mi je lijepo govorio..."
Talijani na oprezu uoči rimskog derbija: "Dolaze navijači Dinama iz Zagreba..."
Pozvane specijalne jedinice
Talijani poslali upozorenje uoči velikog derbija: "Dolaze navijači Dinama iz Zagreba..."
Zoran Mamić ima novi angažman, priključuje se Sarajevu: "Da, istina je..."
Bjegunac
Šok iz susjedstva! Zoran Mamić ima novi angažman, priključuje se kultnom klubu: "Da, istina je..."
tv
U dobru i zlu: Sada će cijela obitelj biti pod pritiskom - zašto je to napravila?
U DOBRU I ZLU
U dobru i zlu: Sada će cijela obitelj biti pod pritiskom - zašto je to napravila?
MasterChef: Hrabro i otkačeno - ovim se jelom definitivno nitko nikada nije predstavio žiriju MasterChefa!
ZANIMLJIV ODABIR!
Hrabro i otkačeno - ovim se jelom definitivno nitko nikada nije predstavio žiriju MasterChefa!
Skrivena sudbina: Donio joj je dobre vijesti, ali može li vratiti njezino povjerenje?
SKRIVENA SUDBINA
Skrivena sudbina: Donio joj je dobre vijesti, ali može li vratiti njezino povjerenje?
putovanja
Kviz općeg znanja: 15 pitanja za mentalni fitness
Za razgibavanje
Kviz općeg znanja: 15 pitanja za mentalni fitness
Najveće dječje igralište u Hrvatskoj
Ogromna zabava!
Odlična ideja za izlet: Otvoreno najveće dječje igralište u Hrvatskoj
Skriveni restoran u obiteljskoj kući: Ispunjeni san bivšeg natjecatelja MasterChefa u kojem ćete poželjeti ostati satima
Škafetin
Skriveni restoran u obiteljskoj kući: Ispunjeni san bivšeg natjecatelja MasterChefa u kojem ćete poželjeti ostati satima
novac
Ovo je deset hrvatskih gradova s najuspješnijim tvrtkama. Treće mjesto je iznenađenje
Gdje je bogatstvo?
Ovo je deset hrvatskih gradova s najuspješnijim tvrtkama. Treće mjesto je iznenađenje
Jedna mediteranska zemlja ozbiljno se naoružava. Potrošit će 25 milijardi eura, uskoro joj stiže četvrta fregata Belharra
Napeti odnosi
Jedna mediteranska zemlja ozbiljno se naoružava. Potrošit će 25 milijardi eura, uskoro joj stiže četvrta fregata Belharra
Zagreb izbacio Kineze s natječaja - autobusi su im bili nekoliko milijuna jeftiniji, ali nisu imali HD monitore
Zagreb izbacio Kineze s natječaja - autobusi su im bili nekoliko milijuna jeftiniji, ali nisu imali HD monitore
lifestyle
Znate li da postoji kolač posvećen Robertu Redfordu?
Žene su oduševljene
Imamo recept za kolač nazvan po Robertu Redfordu, provjerite zašto se tako zove
Kombinacija Catherine Middleton za svečanu večeru u Windsoru
PRIVUKLA PAŽNJU
Zlatno izdanje Catherine Middleton nema niti jednu manu. Svi se slažu da izgleda savršeno
Ovo je najbolji kruh za mršavljenje prema nutricionistima!
Ne morate ga se odreći!
Ovo je najbolji kruh za mršavljenje prema nutricionistima!
sve
Trudna supruga Janka Popovića Volarića Lovorka Sršen žrtva je krađe
postala žrtva
Trudna supruga Janka Popovića Volarića moli za pomoć, našla se u teškoj situaciji
Znate li da postoji kolač posvećen Robertu Redfordu?
Žene su oduševljene
Imamo recept za kolač nazvan po Robertu Redfordu, provjerite zašto se tako zove
Pogledajte neugodan trenutak između Kate Middleton, kraljice Camille i Melanije Trump
video je viralan
Neugodnjak! Pogledajte čudan trenutak razgovora Camille i Melanije o kojem svi pričaju
 

Nastavi čitati

Tehnologija
Mercedes, ilustracija
Povratak na staro

Potez Mercedesa pokazuje u kojem smjeru ide automobilska industrija

piše Hrvoje Jurman
Tehnologija
Kia, ilustracija
Objasnio CEO europskog odjela Kije

Jeftini električni automobili stižu kada se ispuni samo jedan uvjet: Evo koji

piše Hrvoje Jurman
Tehnologija
Teslina vozila
Dizajn iznad sigurnosti?

Otkriven problem s Teslinim vozilima koji bi mogao vozača i putnike zarobiti u kritičnim situacijama

piše Branimir Vidmarović/B.V.
Tehnologija
Deepfake, ilustracija
Ako nema dopuštenja

Europska država uvodi strogi zakon: Za dijeljenje deepfakeova prijeti kazna zatvora do 5 godina

piše Hina
Tehnologija
Xpengov leteći automobil
Zračni sudar automobila

Pilot ozlijeđen, vozilo u plamenu: U Kini se sudarila dva leteća automobila

piše Hrvoje Jurman
Tehnologija
Chiang Kung
Jačaju obranu

VIDEO Tajvan priredio iznenađenje za Kinu - nov i vrlo moćan presretač balističkih projektila vlastite proizvodnje

piše Branimir Vorša
  • Pišite nam
  • Uredništvo
  • Oglašavanje i marketing
  • Uvjeti korištenja
  • Politika zaštite privatnosti
  • Politika o kolačićima
  • Dnevnik
  • Nova Plus
  • Gol.hr
  • Zadovoljna
  • Kreni Zdravo
  • NovaTV
  • DomaTV
Upravljaj obavijestima