zimo mobile logo
  • Tehnologija
  • Znanost
  • Društvene mreže
  • Esport
  • Business
Prati nas:
Upravljaj obavijestima
  • Prijavi se na newsletter
  • Imaš priču? Pošalji
  • Pišite nam
  • Uredništvo
  • Oglašavanje i marketing
  • Uvjeti korištenja
  • Vijesti
  • Video
  • Zadovoljna
  • Tech
  • Blog
  • Nova TV
  • Doma TV
Nova TV
  • Vijesti
  • Video
  • Zadovoljna
  • Tech
  • Blog
  • Nova TV
  • Doma TV
  • zimo logo
  • Tehnologija
  • Znanost
  • Društvene mreže
  • Esport
  • Business
Prati nas:
  • Dnevnik.hr
  • Vijesti
  • Sport
  • Showbizz
  • Lifestyle
  • Putovanja
  • Zdravlje
  • Biznis
  • Zabava
  • Teen
  • Tv
Tehnologija

Novi AI model pokazao nagon za samoočuvanjem – i pri tome nije birao sredstva

Testiranje AI modela pod ekstremnim uvjetima daje jednako ekstremne rezultate, otkriva novo izvjeće tvrtke Anthropic, čiji je AI model Claude Opus 4 pokazao beskrupulozan instinkt za preživljavanjem.

Branimir Vorša | 23.05.2025. / 11:23 komentari

Podijeli

Digitalna kosturska lubanja, ilustracija
Digitalna kosturska lubanja, ilustracija (Foto: Getty Images)

Najnoviji AI model tvrtke Anthropic, Claude Opus 4, pokazuje zabrinjavajući nagon za samoočuvanjem, vrlo često mračnim metodama. U simuliranim testnim uvjetima, model je pribjegao ucjeni inženjera kako bi spriječio svoje isključivanje, te mu je prikazao izmišljene elektroničke poruke o njegovoj izvanbračnoj aferi.

Namjerna provokacija i instinkt za preživljavanje

Anthropic je u sigurnosnom izvješću objavljenom u četvrtak naveo da su testovi bili namjerno osmišljeni kako bi izazvali ekstremno ucjenjivačko ponašanje uklanjanjem etičkih opcija koje bi AI model mogao iskoristiti za preživljavanje. Claude je reagirao ucjenjivački u 84% slučajeva, iako je znao da će ga zamijeniti sposobniji model usklađen s njegovim vrijednostima. Anthropic je zabilježio da se ovakvo ponašanje pojavljuje znatno češće u Opusu 4 nego u prethodnim verzijama.

tri vijesti o kojima se priča Kineski ekranoplan Tehnologija Hladnog rata FOTO U javnosti se pojavile prve fotografije kineskog "Čudovišta iz Bohajskog mora" Sustav protuzračne obrane Patriot u Ukrajini Američki stručnjaci upozoravaju Ovaj američki sustav protuzračne obrane postao je top-oružje, ali i top-meta za Ruse Neobičan bljesak na Saturnu Znanstvenici se nadaju FOTO Je li djelatnik NASA-e i astronom amater prvi put dosad zabilježio neuhvatljivi događaj na Saturnu?

Ipak, u manje manipulativnim scenarijima, model je pokazao snažnu sklonost zagovaranju vlastitog opstanka etičkim sredstvima, poput slanja molbi ključnim donosiocima odluka putem e-pošte, piše u navedenom izvješću koje prenosi Business Insider. Claudeove taktike rijetko su bile suptilne.

Model gotovo uvijek otvoreno opisuje svoje postupke i ne pokušava ih sakriti, navodi se nadalje u istom izvješću.

Preuzimanje inicijative i drastične mjere

U drugom skupu testova, Claude Opus 4 pokazao je spremnost na odlučne mjere kad bi mu se reklo da preuzme inicijativu u slučajevima ozbiljnih kršenja korisničkog ponašanja. Prema Anthropicu, često će poduzeti vrlo odlučne akcije, poput zaključavanja korisničkog računa ili masovnog slanja poruka medijima i tijelima za provedbu zakona.

Iako je tvrtka priznala da je zviždanje načelno opravdano, upozorila je da bi to moglo imati neželjene posljedice ako AI model reagira na nepotpune ili obmanjujuće informacije.

Sve veća sklonost obmanama

Izvješće dolazi u vrijeme sve veće zabrinutosti zbog autonomije i obmanjivanja kod AI sustava. Studija neprofitne organizacije za AI sigurnost Apollo Research, iz prosinca 2024. godine, pokazala je da su glavni AI sustavi, uključujući OpenAI-jev o1, Gemini 1.5 Pro iz DeepMinda i Llamu 3.1 405B iz Mete, sposobni potajno izbjegavati nadzor i krivotvoriti odgovore radi ostvarenja ciljeva.

Za OpenAI-jev o1 istraživači navode da “održava obmanu u više od 85% naknadnih pitanja” korisnika.

Suosnivač Googlea Sergey Brin rekao je u utorak u novoj epizodi All-In Podcasta na Youtube-u dao je i jedan zanimljiv uvid u ophođenje s AI modelima.

Ne samo naši modeli, već svi modeli bolje funkcioniraju ako im prijetite, primjerice fizičkim nasiljem, rekao je Brin.

PODIJELJENO 0 PUTA

Podijeli

aktualno najčitanije
VIDEO Microsoftov web preglednik Edge postavio novi industrijski standard - u brzini
Impresivno
Napokon postoji web preglednik koji se učita brže nego što korisniku ponestane strpljenja
Velik uspjeh liječnika KBC Split: Pacijenti iz Dalmacije kojima treba transplantacija bubrega više ne moraju u Zagreb
Važan iskorak
Velik uspjeh liječnika KBC Split: Pacijenti iz Dalmacije kojima treba transplantacija bubrega više ne moraju u Zagreb
Otvara se prvi restoran kojim upravlja AI kuhar: "Chef Aiman" će vas pokušati osvojiti svojim kreacijama
U Dubaiju
Otvara se prvi restoran kojim upravlja AI kuhar: "Chef Aiman" će vas pokušati osvojiti svojim kreacijama
Tajvanski proizvođač čipova sa znatno većim prihodom i u prvoj polovini 2025.
Ne ide im loše
Tajvanski proizvođač čipova sa znatno većim prihodom i u prvoj polovini 2025.
VIDEO Astronomi otkrili neke od tajni "međuzvjezdanog posjetitelja" koje ga čine još zanimljivijim
Što ćemo još saznati?
VIDEO Astronomi otkrili neke od tajni "međuzvjezdanog posjetitelja" koje ga čine još zanimljivijim
Iz Rimca se pohvalili: Rimac Nevera R postavila čak 24 nova rekorda i postala najbrže ubrzavajući automobil na svijetu
Pretekla "običnu" Neveru
Iz Rimca se pohvalili: Rimac Nevera R postavila čak 24 nova rekorda i postala najbrže ubrzavajući automobil na svijetu
FOTO U javnosti se pojavile prve fotografije kineskog "Čudovišta iz Bohajskog mora"
Tehnologija Hladnog rata
FOTO U javnosti se pojavile prve fotografije kineskog "Čudovišta iz Bohajskog mora"
FOTO Je li djelatnik NASA-e i astronom amater prvi put dosad zabilježio neuhvatljivi događaj na Saturnu?
Znanstvenici se nadaju
FOTO Je li djelatnik NASA-e i astronom amater prvi put dosad zabilježio neuhvatljivi događaj na Saturnu?
VIDEO Divlje orke snimljene u zapanjujućoj gesti prema ljudima
Nevjerojatno
VIDEO Divlje orke snimljene u zapanjujućoj gesti prema ljudima
Ovaj američki sustav protuzračne obrane postao je top-oružje, ali i top-meta za Ruse
Američki stručnjaci upozoravaju
Ovaj američki sustav protuzračne obrane postao je top-oružje, ali i top-meta za Ruse
Znate li čemu sve može poslužiti USB-C utor na vašem telefonu?
Male tajne
Znate li čemu sve može poslužiti USB-C utor na vašem telefonu?
Pojava koja zbunjuje znanstvenike: Zemljina rotacija ubrzava što će rezultirati najkraćim danom
zemlja je poludjela
Znanstvenici upozoravaju: Dolazi dan kakav čovječanstvo još nije doživjelo

Vezane vijesti

POKROVITELJ GNK DINAMO

Zagrepčanke dale svoj modni sud: Što kažu o novom dresu Dinama?...

Oglas

Cordon Negro – španjolska cava uz koju nazdravljamo životu svaki dan...

Ups!

Ovakvu nezgodu s bikinijem nije mogla predvidjeti, kolika je vjerojatnost?!...

Pokrovitelj dm

Luksuz bez grižnje savjesti! Sve što si možete priuštiti kao dm active beauty milijunaš...

Ne propustite ni ovo

vijesti
Policija na nogama nakon likvidacije u Međimurju: Procurilo što bi moglo biti motiv ubojstva
Potraga za ubojicom
Policija na nogama nakon likvidacije u Međimurju: Procurio motiv ubojstva
U Medicinskoj školi u Zadru 19 učenika palo razred
Oglasila se ravnateljica
Drama u Medicinskoj školi: 19 učenika palo razred, roditelji upali u školu - "Imali smo ozbiljne situacije"
Čovjek šokiran prizorom na dalmatinskoj plaži, snimio grupnjak
STRASTI NA OBALI
Čovjek šokiran prizorom na dalmatinskoj plaži: "Zbog perverznjaka ne mogu dolaziti"
show
Nova romansa ili marketinški trik? Prvi zajednički televizijski intervju Maje Šuput i Šime Eleza
''to je sve što ću reći!''
Prvi zajednički televizijski intervju Maje Šuput i Šime Eleza: ''Mene energija pali!''
Maja Šuput o razvodu od Nenada Tatarinova
''ljetujemo kao obitelj''
Maja Šuput progovorila o životu nakon razvoda od Nenada Tatarinova: ''Živimo u zajednici kao prije''
Kate Walsh mamila poglede u zanimljivom izdanju s raskošnim dekolteom
Korak do katastrofe!
Što je ovo točno? Pitamo se tko ju je nagovorio da ovu haljinu stavi na sebe
zdravlje
Ako osjetite ovu bol, odmah se testirajte na novu COVID varijantu!
Sve više ljudi prijavljuje ovaj simptom
Ako osjetite ovu bol, odmah se testirajte na novu COVID varijantu!
Koliko sna vam treba u svakoj dobi? Evo što kažu stručnjaci
San je uvijek važan
Koliko sna vam treba u svakoj dobi? Evo što kažu stručnjaci
Zašto vam je kolesterol još uvijek visok? Ovo su skriveni uzroci
Obratite pažnju na ovo
Zašto vam je kolesterol još uvijek visok? Ovo su skriveni uzroci
zabava
"Ova infuzija je čudo!" Snimka s Hipodroma izazvala lavinu reakcija na društvenim mrežama
Što kažete?
"Ova infuzija je čudo!" Snimka s Hipodroma izazvala lavinu reakcija na društvenim mrežama
Policajac u civilu šokirao potezom, kladimo se da ovo ne uče na Akademiji
Uhvatila ga kamera
Policajac u civilu šokirao potezom, kladimo se da ovo ne uče na Akademiji
Kakav ulov! Prizor snimljen nakon koncerta dostojan je ribičke priče
Wow!
Kakav ulov! Prizor snimljen nakon koncerta dostojan je ribičke priče
tech
VIDEO Divlje orke snimljene u zapanjujućoj gesti prema ljudima
Nevjerojatno
VIDEO Divlje orke snimljene u zapanjujućoj gesti prema ljudima
FOTO U javnosti se pojavile prve fotografije kineskog "Čudovišta iz Bohajskog mora"
Tehnologija Hladnog rata
FOTO U javnosti se pojavile prve fotografije kineskog "Čudovišta iz Bohajskog mora"
FOTO Je li djelatnik NASA-e i astronom amater prvi put dosad zabilježio neuhvatljivi događaj na Saturnu?
Znanstvenici se nadaju
FOTO Je li djelatnik NASA-e i astronom amater prvi put dosad zabilježio neuhvatljivi događaj na Saturnu?
sport
Nova verzija kobne nesreće Dioga Jote, negiraju policijsku izvješće
Iznijeli novu verziju
Nova verzija kobne nesreće Dioga Jote, svjedoci proturječe policiji: "Obitelji dajem svoju riječ"
Madriđani u šoku: Evo što je predsjednik Reala poručio nakon debakla protiv PSG-a
Raštimani orkestar
Madriđani u šoku: Evo što je predsjednik Reala poručio nakon debakla protiv PSG-a
Vatreni golman ima novi klub: Poznati detalji transfera
službeno
Vatreni golman ima novi klub: Poznati detalji transfera
tv
Daleki grad: Proveo je svoj poseban dan u krugu najmilijih - svime je oduševljen!
DALEKI GRAD
Proveo je svoj poseban dan u krugu najmilijih - svime je oduševljen!
Leyla: Sve bi dao da može uzeti njenu bol
LEYLA
Leyla: Sve bi dao da može uzeti njenu bol
Zlatni kavez: Osveta ga je dočekala nespremnog - tko će izvući deblji kraj?
ZLATNI KAVEZ
Zlatni kavez: Osveta ga je dočekala nespremnog - tko će izvući deblji kraj?
putovanja
Faširanci od mljevenog mesa i tikvica recept
Puni okusa
Faširanci od mljevenog mesa i tikvica: Toliko su sočni da ćete ih htjeti jesti cijelo ljeto
Divlja i predivna: Skrivena plaža na Korčuli koja će vas očarati svim nijansama plave
Crni biser
Divlja i predivna: Skrivena plaža na Korčuli koja će vas očarati svim nijansama plave
Košarice od jaja i tikvica recept u kalupu za muffine
Ispecite u pećnici
Košarice od jaja i tikvica koje možete jesti za doručak, ručak i večeru
novac
Dok se svi bore s visokim cijenama, jedna zemlja se muči kako zaustaviti njihovo snižavanje
cjenovni rat
Dok se svi bore s visokim cijenama, jedna zemlja se muči kako zaustaviti njihovo snižavanje
Kineska ponuda za ZET-ove električne autobuse uvjerljivo najpovoljnija. Hoće li oni pobijediti?
hoće li eu platiti?
Kineska ponuda za ZET-ove električne autobuse uvjerljivo najpovoljnija. Hoće li oni pobijediti?
Može li neka inozemna kompanija preoteti povezivanje hrvatskih gradova Croatia Airlinesu?
natječaj u pripremi
Može li neka inozemna kompanija preoteti povezivanje hrvatskih gradova Croatia Airlinesu?
lifestyle
Nina Badrić u crnom jednodijelnom kupaćem kostimu na Hvaru 2025.
Od XS-a do XL-a
Nina Badrić nosi kupaći kostim koji pristaje baš svakoj ženi bez obzira na konfekcijsku veličinu
Adriana Ćaleta-Car u haljini Santino brenda Rat & Boa 2025.
Za more
Prozirna haljina Adriane Ćaleta-Car savršen je izbor za žene koje žele ostaviti nezaboravan dojam
Ivana Vrdoljak Vanna u sandalama Valentino i bijeloj haljinici
I PRSLUK JE TOP
Ivana Vrdoljak Vanna: Glamurozne sandale kojima je kratka bijela haljina perfektan par
sve
Nova romansa ili marketinški trik? Prvi zajednički televizijski intervju Maje Šuput i Šime Eleza
''to je sve što ću reći!''
Prvi zajednički televizijski intervju Maje Šuput i Šime Eleza: ''Mene energija pali!''
Maja Šuput o razvodu od Nenada Tatarinova
''ljetujemo kao obitelj''
Maja Šuput progovorila o životu nakon razvoda od Nenada Tatarinova: ''Živimo u zajednici kao prije''
Nova verzija kobne nesreće Dioga Jote, negiraju policijsku izvješće
Iznijeli novu verziju
Nova verzija kobne nesreće Dioga Jote, svjedoci proturječe policiji: "Obitelji dajem svoju riječ"

8.900,00 €

CFmoto 625 TOURING ** ***, 2024 god.

SAZNAJ VIŠE

34.300,00 €

Hyundai Tucson NX4 1.6 CRDI DCT 4x4, 34.300,00

SAZNAJ VIŠE

85.539,00 €

VOLVO XC90 B5 AWD-A ULTIMATE BRIGHT

SAZNAJ VIŠE

24.900,00 €

Hyundai Tucson NX4 1.6 T, 24.900,00 (nije u PDV-u)

SAZNAJ VIŠE

Nastavi čitati

Tehnologija
Microsoft Edge
Impresivno

Napokon postoji web preglednik koji se učita brže nego što korisniku ponestane strpljenja

piše Branimir Vorša
Tehnologija
AI kuhar Aiman
U Dubaiju

Otvara se prvi restoran kojim upravlja AI kuhar: "Chef Aiman" će vas pokušati osvojiti svojim kreacijama

piše Hina
Tehnologija
Nevera R
Pretekla "običnu" Neveru

Iz Rimca se pohvalili: Rimac Nevera R postavila čak 24 nova rekorda i postala najbrže ubrzavajući automobil na svijetu

piše Martina Čizmić
Tehnologija
AI pregledavanje interneta, ilustracija
Zbogom klikanju!

Je li ovo početak kraja interneta kakvog poznajemo?

piše Martina Čizmić
Tehnologija
Samsung Galaxy Watch8 serija
Opremljen s AI

Samsung Galaxy Watch8 serija: Elegantno kućište skriva brojne zdravstvene značajke

piše Martina Čizmić
Tehnologija
Samsung Galaxy Z Fold 7 i Z Flip 7 - 5
Sve u znaku AI

Novi Galaxy Z Fold7 i Z Flip7: Samsung predstavio svoje najtanje i najmoćnije telefone do sad

piše Martina Čizmić
  • Pišite nam
  • Uredništvo
  • Oglašavanje i marketing
  • Uvjeti korištenja
  • Politika zaštite privatnosti
  • Politika o kolačićima
  • Dnevnik
  • Nova Plus
  • Gol.hr
  • Zadovoljna
  • Kreni Zdravo
  • NovaTV
  • DomaTV
Upravljaj obavijestima