zimo mobile logo
  • Tehnologija
  • Znanost
  • Društvene mreže
  • Esport
  • Business
Prati nas:
Upravljaj obavijestima
  • Prijavi se na newsletter
  • Imaš priču? Pošalji
  • Pišite nam
  • Uredništvo
  • Oglašavanje i marketing
  • Uvjeti korištenja
  • Vijesti
  • Video
  • Zadovoljna
  • Tech
  • Blog
  • Nova TV
  • Doma TV
Nova TV
  • Vijesti
  • Video
  • Zadovoljna
  • Tech
  • Blog
  • Nova TV
  • Doma TV
  • zimo logo
  • Tehnologija
  • Znanost
  • Društvene mreže
  • Esport
  • Business
Prati nas:
  • Dnevnik.hr
  • Vijesti
  • Sport
  • Showbizz
  • Lifestyle
  • Putovanja
  • Zdravlje
  • Biznis
  • Zabava
  • Teen
  • Tv
Tehnologija

Smrt, krv i destrukcija: Eksperiment pokazao kako razmišlja psihopatska umjetna inteligencija

Eksperiment proveden na MIT-ju pokazao je kako za ponašanje umjetne inteligencije nije toliko važan algoritam, već podaci i slike s kojima se AI trenira.

Hrvoje Jurman
Hrvoje Jurman | 04.06.2018. / 07:22 komentari

Podijeli

Norman (Foto: MIT) (Foto: MIT)

Mnogo znanstvenici upozoravaju kako bi umjetna inteligencija, ako se jednom otme kontroli, mogla značiti početak kraja svijeta u kojem živimo te bi mogla ugroziti opstanak ljudi na našoj planeti. Iako su prednosti koje AI donosi i može donijeti čovječanstvu jako velike, s njezinim razvojem treba biti jako oprezan i potrebno ga je usmjeriti u pozitivnom smjeru.

tri vijesti o kojima se priča Mlada djevojka, ilustracija Neki bi joj zavidjeli U strahu da ne ispadne čudna samo je obitelji priznala što može. Znanstvenici oduševljeni: "Takvih ima samo 100" Appleovi telefoni, ilustracija Vrijeme radi svoje… Ako imate ove modele telefona, možda je vrijeme da ih zamijenite i kupite nove Nastava, ilustracija Što napraviti?! Situacija nikad nije bila gora: Profesori tvrde kako su domaće zadaće izgubile svaki smisao

Na Massachusetts Institute of Technology (MIT) proveli su eksperiment u kojem su htjeli saznati kako će se ponašati umjetna inteligencija koja je trenirana korištenjem negativnih i morbidnih podataka, odnosno prikazivanjem slika ubijenih ljudi. Ovaj psihopatski algoritam nazvan je Norman (po Normanu Batesu) i, kako možemo očekivati, njegov pogled na svijet nije pozitivan ni optimističan.

AI Norman Bates

Nakon što je Norman istreniran, na njemu je primijenjena metoda kakvu inače psiholozi koriste za ispitivanje stanja svijesti ljudi, odnosno gledaju li na svijet na pozitivan ili negativan način – prikazivane su razne apstraktne fotografije, a Norman je tekstualno opisivao na što ga te slike podsjećaju.

Iste fotografije prikazane su i umjetnoj inteligenciji koja je normalno, tj. pozitivno trenirana prikazivanjem fotografija cvijeća, ptica, livada itd.

Ono što je Norman vidio kao muškarca ubijenog strujom, običan algoritam vidio je kao skupinu ptica koje sjede na grani, a apstraktnu fotografiju koja za Normana predstavlja muškarca koji skače s prozora normalno trenirana AI vidi kao ljude koji stoje jedan pored drugog.

Fotografija koju je umjetna inteligencija opisala kao komad torte na vjenčanju za Normana je muškarac kojeg je ubio jureći automobil, dok je npr. osobu koja u zraku drži kišobran Norman interpretirao kao muškarca ubijenog ispred žene koja je vrištala od straha.

Ovo istraživanje pokazalo je kako nije toliko važan algoritam, već su najvažniji podaci i slike kojima umjetna inteligencija ima pristup tijekom treniranja. Ako AI ima pristup samo fotografijama ubojstava, destrukcije, kaosa i krvi, na takav će način umjetna inteligencija percipirati svijet i ponašati se.

Rasizam i seksizam

Koliko su podaci važni za umjetnu inteligenciju i kakve greške AI može raditi na temelju krivih podataka, najbolje možemo vidjeti na temelju računalnog programa baziranog na AI koji je koristio američki sud za procjenu rizika zatvorenika i njihova potencijalnog ponavljanja zločina. Ovaj je program na temelju policijskih podataka kao potencijalne ponavljače označio dvostruko više ljudi crne boje kože u odnosu na bijelce.

Također, zabilježeni su slučajevi seksizma i negativnog odnosa umjetne inteligencija prema ženama, a razlog za takvo ponašanje, smatraju neki stručnjaci, jest to što AI često treniraju "bijeli samci iz Kalifornije", a kada se računala uče i treniraju na temelju naše kulture, onda ona često preuzimaju i predrasude.

U budućnosti bi moglo biti jako problematično i opasno, komentirala je za BBC Dr. Joanna Bryson s fakulteta Bath u Velikoj Britaniji, što bi neki programeri umjetnu inteligenciju mogli namjerno naučiti nekim negativnim stvarima i usaditi im predrasude, zbog čega je potreban veći nadzor i transparentnost kada je u pitanju razvoj i treniranje AI.

Izvor: BBC

 

PODIJELJENO 0 PUTA

Podijeli

aktualno najčitanije
Otkriven problem s Teslinim vozilima koji bi mogao vozača i putnike zarobiti u kritičnim situacijama
Dizajn iznad sigurnosti?
Otkriven problem s Teslinim vozilima koji bi mogao vozača i putnike zarobiti u kritičnim situacijama
Europska država uvodi strogi zakon: Za dijeljenje deepfakeova prijeti kazna zatvora do 5 godina
Ako nema dopuštenja
Europska država uvodi strogi zakon: Za dijeljenje deepfakeova prijeti kazna zatvora do 5 godina
Pilot ozlijeđen, vozilo u plamenu: U Kini se sudarila dva leteća automobila
Zračni sudar automobila
Pilot ozlijeđen, vozilo u plamenu: U Kini se sudarila dva leteća automobila
Rekordna suša u Europi i mediteranskim zemljama u kolovozu
Teško pogođen i Balkan
Rekordna suša u Europi i mediteranskim zemljama u kolovozu
VIDEO Tajvan priredio iznenađenje za Kinu - nov i vrlo moćan presretač balističkih projektila vlastite proizvodnje
Jačaju obranu
VIDEO Tajvan priredio iznenađenje za Kinu - nov i vrlo moćan presretač balističkih projektila vlastite proizvodnje
Zuckerberg predstavio nove uređaje: Na ovaj gadget čekalo se više od desetljeća
Napokon
Zuckerberg predstavio nove uređaje: Na ovaj gadget čekalo se više od desetljeća
Fascinantna sposobnost 17-godišnjakinje oduševila znanstvenike: Takvih je ljudi tek stotinjak na svijetu
Neki bi joj zavidjeli
U strahu da ne ispadne čudna samo je obitelji priznala što može. Znanstvenici oduševljeni: "Takvih ima samo 100"
Situacija nikad nije bila gora: Profesori tvrde kako su domaće zadaće izgubile svaki smisao
Što napraviti?!
Situacija nikad nije bila gora: Profesori tvrde kako su domaće zadaće izgubile svaki smisao
Ako imate ove modele telefona, možda je vrijeme da ih zamijenite i kupite nove
Vrijeme radi svoje…
Ako imate ove modele telefona, možda je vrijeme da ih zamijenite i kupite nove
Telefoni se "pretvorili u cigle": Korisnici iPhonea bijesni nakon nadogradnje na novi softver
Razočaranje
Telefoni se "pretvorili u cigle": Korisnici iPhonea bijesni nakon nadogradnje na novi softver
Srbi moderniziraju oklopna vozila, ovo su detalji
Kupili ih od Mađara
Srbi moderniziraju oklopna vozila, ovo su detalji
Slijedi velika promjena na tržištu rada: Evo tko će prvi ostati bez posla, prema Samu Altmanu
Mnoge su industrije ugrožene
Slijedi velika promjena na tržištu rada: Evo tko će prvi ostati bez posla, prema Samu Altmanu

Vezane vijesti

Ne propustite ni ovo

vijesti
Poljska i dalje u stanju visoke pripravnosti: Otkrili tko je poslao dron iznad vladine zgrade
Dovršena istraga
Otkriveno tko je upravljao dronom u Poljskoj: Krivac ipak nije Bjelorus
Zelenski u ekskluzivnom intervjuu otkrio loše vijesti: "Istina je, počinje najesen"
za Sky News
Zelenski u ekskluzivnom intervjuu otkrio loše vijesti: "Istina je, počinje najesen"
Profesor i poduzetnik žali se da nema kadrova u privatnom sektoru zbog visokih plaća u javnom
KRITIKE VLADINIH MJERA
Poduzetnik o inflaciji: "Cijena sata rada keramičara veća je od one sveučilišnog profesora ili liječnika"
show
Pogledajte neugodan trenutak između Kate Middleton, kraljice Camille i Melanije Trump
video je viralan
Neugodnjak! Pogledajte čudan trenutak razgovora Camille i Melanije o kojem svi pričaju
Tko je sin Željka Krušlina Kruške, Filip Krušlin?
jeste li znali?
Tko je šarmantni sin Željka Krušlina Kruške? Naš je hvaljeni sportaš, a poznat je i izvan Hrvatske
Kralj Charles prvi je britanski monarh na rimokatoličkom sprovodu u 400 godina
''Ovo je velik korak...''
Povijesni trenutak na tužnom ispraćaju! Kralj Charles prekršio stoljetnu tradiciju
zdravlje
Ovo je najbolji kruh za mršavljenje prema nutricionistima!
Ne morate ga se odreći!
Ovo je najbolji kruh za mršavljenje prema nutricionistima!
5 dodataka prehrani koji mogu naštetiti vašoj jetri
Oprez!
5 dodataka prehrani koji mogu naštetiti vašoj jetri
Previše ovog vitamina može povećati rizik od raka!
Važna informacija
Previše ovog vitamina može povećati rizik od raka!
zabava
Ovaj kviz otkriva tko je pravi znalac, a tko smo pogađa odgovore
Pokažite što znate!
Ovaj kviz otkriva tko je pravi znalac, a tko smo pogađa odgovore
Samo u Dalmaciji! Scena ispred trgovine oduševila društven mreže
Zanimljivo
Samo u Dalmaciji! Scena ispred trgovine oduševila društvene mreže
Ono što su stranci ostavili u zagrebačkom tramvaju oduševilo društvene mreže! To je poštenje
Svaka čast
Ono što su stranci ostavili u zagrebačkom tramvaju oduševilo društvene mreže! To je poštenje
tech
Fascinantna sposobnost 17-godišnjakinje oduševila znanstvenike: Takvih je ljudi tek stotinjak na svijetu
Neki bi joj zavidjeli
U strahu da ne ispadne čudna samo je obitelji priznala što može. Znanstvenici oduševljeni: "Takvih ima samo 100"
Telefoni se "pretvorili u cigle": Korisnici iPhonea bijesni nakon nadogradnje na novi softver
Razočaranje
Telefoni se "pretvorili u cigle": Korisnici iPhonea bijesni nakon nadogradnje na novi softver
Ako imate ove modele telefona, možda je vrijeme da ih zamijenite i kupite nove
Vrijeme radi svoje…
Ako imate ove modele telefona, možda je vrijeme da ih zamijenite i kupite nove
sport
UFC neugodno iznenadio Antu Deliju! Kako je ovakvo što uopće moguće?
TJEDAN NAKON POBJEDE
UFC neugodno iznenadio Antu Deliju! Kako je ovakvo što uopće moguće?
Gordon Schildenfeld nije više trener Vukovara
Već treća smjena
Pala još jedna trenerska glava u SHNL-u: Ostvario povijesni plasman, ali...
Procurile nove informacije o ozljedi Josipa Stanišića na utakmici Bayerna i Chelseaja
Nije izgledalo dobro
Vatreni progovorio o ozljedi koljena, u prolazu izgovorio samo četiri riječi
tv
MasterChef: Hrabro i otkačeno - ovim se jelom definitivno nitko nikada nije predstavio žiriju MasterChefa!
ZANIMLJIV ODABIR!
Hrabro i otkačeno - ovim se jelom definitivno nitko nikada nije predstavio žiriju MasterChefa!
Skrivena sudbina: Donio joj je dobre vijesti, ali može li vratiti njezino povjerenje?
SKRIVENA SUDBINA
Skrivena sudbina: Donio joj je dobre vijesti, ali može li vratiti njezino povjerenje?
U dobru i zlu: Sada će cijela obitelj biti pod pritiskom - zašto je to napravila?
U DOBRU I ZLU
U dobru i zlu: Sada će cijela obitelj biti pod pritiskom - zašto je to napravila?
putovanja
Najveće dječje igralište u Hrvatskoj
Ogromna zabava!
Odlična ideja za izlet: Otvoreno najveće dječje igralište u Hrvatskoj
Tjedni jelovnik fina i brza jela 15. 9. do 21. 9. 2025.
Tjedni jelovnik
Zasitna su, fina i rade se bez puno muke: Sedam predobrih jela za svaki dan ovog tjedna
Popečci od brokule i sira recept
Iz pećnice
Bolje od pohanih tikvica? Ovi povrtni popečci s brokulom i sirom su fantastični
novac
Zagreb izbacio Kineze s natječaja - autobusi su im bili nekoliko milijuna jeftiniji, ali nisu imali HD monitore
Zagreb izbacio Kineze s natječaja - autobusi su im bili nekoliko milijuna jeftiniji, ali nisu imali HD monitore
Jedna stvar koštala je Europu ovo ljeto najmanje 43 milijarde eura, Hrvatska u dobroj poziciji
Bit će još gore!
Jedna stvar koštala je Europu ovo ljeto najmanje 43 milijarde eura, Hrvatska u dobroj poziciji
Jedan od najluksuznijih hrvatskih hotela sad gradi vile i ekskluzivni klub za članove
Samo za imućne
Jedan od najluksuznijih hrvatskih hotela sad gradi vile i ekskluzivni klub za članove
lifestyle
Zagreb špica: Majica sa simpatičnim natpisom u street style izdanju
BAŠ SIMPATIČNO
"Draga mama"... Majica s porukom nasmijala je žene u centru Zagreba
Lejla Filipović u satenskoj suknji i bijelim tenisicama
TAKO JE KAKO JE
Lejla Filipović: Suknja u kojoj svaka žena izgleda elegantno, čak i kada je upari s tenisicama
Dobre i loše strane Mjeseca u Lavu
Snažna energija
Stigao je Mjesec u Lavu: Kome donosi najviše sreće, a kome najviše brige?
sve
Pogledajte neugodan trenutak između Kate Middleton, kraljice Camille i Melanije Trump
video je viralan
Neugodnjak! Pogledajte čudan trenutak razgovora Camille i Melanije o kojem svi pričaju
Tko je sin Željka Krušlina Kruške, Filip Krušlin?
jeste li znali?
Tko je šarmantni sin Željka Krušlina Kruške? Naš je hvaljeni sportaš, a poznat je i izvan Hrvatske
Zagreb špica: Majica sa simpatičnim natpisom u street style izdanju
BAŠ SIMPATIČNO
"Draga mama"... Majica s porukom nasmijala je žene u centru Zagreba
 

Nastavi čitati

Tehnologija
Teslina vozila
Dizajn iznad sigurnosti?

Otkriven problem s Teslinim vozilima koji bi mogao vozača i putnike zarobiti u kritičnim situacijama

piše Branimir Vidmarović/B.V.
Tehnologija
Deepfake, ilustracija
Ako nema dopuštenja

Europska država uvodi strogi zakon: Za dijeljenje deepfakeova prijeti kazna zatvora do 5 godina

piše Hina
Tehnologija
Xpengov leteći automobil
Zračni sudar automobila

Pilot ozlijeđen, vozilo u plamenu: U Kini se sudarila dva leteća automobila

piše Hrvoje Jurman
Tehnologija
Chiang Kung
Jačaju obranu

VIDEO Tajvan priredio iznenađenje za Kinu - nov i vrlo moćan presretač balističkih projektila vlastite proizvodnje

piše Branimir Vorša
Tehnologija
Mark Zuckerberg predstavlja pametne naočale
Napokon

Zuckerberg predstavio nove uređaje: Na ovaj gadget čekalo se više od desetljeća

piše Hrvoje Jurman
Tehnologija
Virtualni asistent, ilustracija
Magenta AI

HT predstavio vlastitog virtualnog asistenta: Korak bliže konceptu mobitela kojeg pokreće isključivo AI

piše Martina Čizmić
  • Pišite nam
  • Uredništvo
  • Oglašavanje i marketing
  • Uvjeti korištenja
  • Politika zaštite privatnosti
  • Politika o kolačićima
  • Dnevnik
  • Nova Plus
  • Gol.hr
  • Zadovoljna
  • Kreni Zdravo
  • NovaTV
  • DomaTV
Upravljaj obavijestima