zimo mobile logo
  • Tehnologija
  • Znanost
  • Društvene mreže
  • Esport
  • Business
Prati nas:
Upravljaj obavijestima
  • Prijavi se na newsletter
  • Imaš priču? Pošalji
  • Pišite nam
  • Uredništvo
  • Oglašavanje i marketing
  • Uvjeti korištenja
  • Vijesti
  • Video
  • Zadovoljna
  • Tech
  • Blog
  • Nova TV
  • Doma TV
Nova TV
  • Vijesti
  • Video
  • Zadovoljna
  • Tech
  • Blog
  • Nova TV
  • Doma TV
  • zimo logo
  • Tehnologija
  • Znanost
  • Društvene mreže
  • Esport
  • Business
Prati nas:
  • Dnevnik.hr
  • Vijesti
  • Sport
  • Showbizz
  • Lifestyle
  • Putovanja
  • Zdravlje
  • Biznis
  • Zabava
  • Teen
  • Tv
Tehnologija

Znanstvenici otkrili ranjivost AI chatbotova: Vaši razgovori s njima i nisu baš tako privatni kako mislite

ChatGPT nije jedini chatbot koji je izložen takvom napadu, ali isto tako, jedini chatbot koji nije ranjiv jest Googleov Gemini.

Martina Čizmić | 17.03.2024. / 10:25 komentari

Podijeli

AI chatbot, ilustracija
AI chatbot, ilustracija (Foto: Getty Images)

Koristite li ChatGPT, trebali biste biti oprezni s informacijama koje s njim dijelite. Naime, voditelj laboratorija za istraživanje ofenzivne umjetne inteligencije na izraelskom Sveučilištu Ben-Gurion Yisroel Mirsky otkrio je kako je trenutačno moguće čitati privatne razgovore s ChatGPT-a i drugih takvih servisa.

tri vijesti o kojima se priča Kineski ekranoplan Tehnologija Hladnog rata FOTO U javnosti se pojavile prve fotografije kineskog "Čudovišta iz Bohajskog mora" Haker, ilustracija I pretvorili u kriptovalute Jedna od najvećih digitalnih pljački u povijesti: U manje od tri sata, hakeri ukrali oko 140 milijuna dolara iz banaka Rijetki fenomen Astronautkinja na Međunarodnoj svemirskoj postaji uhvatila "crvenog duha"

Iako servisi poput ChatGPT-a koriste enkripciju za zaštitu razgovora između korisnika i servisa, kako ističe Mirsky, ta enkripcija nije dovoljno dobra za zaštitu podataka.

Objašnjava kako hakeri ili drugi zlonamjerni akteri koji su na istoj mreži kao i "žrtva" mogu promatrati promet između korisnika i servisa, te s pomoću metapodataka i velikih jezičnih modela posebno osposobljenih za taj zadatak, dorađivati te podatke i otkrivati o čemu se u "hakiranom" razgovoru raspravljalo.

Otkrili smo da je ovaj napad iznimno dobar u dešifriranju odgovora na uobičajena pitanja koja ljudi postavljaju svojim pomoćnicima (npr. podaci iz povijesti, savjeti), ali se muči s dešifriranjem proizvoljnog sadržaja (npr. rješavanje zagonetke), napisao je Mirsky

Kako ističe Mirsky, takav pasivni napad u čak 55 posto slučajeva može zaključiti o čemu se raspravljalo u razgovoru, a savršeno može biti točan u čak 29 posto slučajeva.

Napad je pasivan i može se dogoditi bez znanja OpenAI-a ili njihova klijenta. OpenAI šifrira njihov promet kako bi spriječio takve vrste napada, ali naše je istraživanje pokazalo da je način na koji OpenAI koristi enkripciju pogrešan i sadržaj je poruka izložen, istaknuo je za Ars Technicu.

Zanimljivo, ChatGPT nije jedini chatbot koji je izložen takvom napadu, ali isto tako, jedini chatbot koji nije ranjiv jest Googleov Gemini.

Istraživači su, u svojoj studiji, dali dva prijedloga za ublažavanje učinkovitosti takva napada. Prvi je slijediti Googleov primjer i prestati slati pakete jedan po jedan jer ih takvo slanje čini lakšima za otkrivanje i prevođenje. Drugi je primijeniti tehniku ​​koja paketima dodaje nasumične količine razmaka tako da svi imaju fiksnu duljinu jednaku najvećem mogućem paketu. Time bi se otežalo njihovo prepoznavanje. 

No problem je što bi primjenom i jednog i drugog prijedloga bio usporen odgovor chatbota korisniku, što bi degradiralo korisničko iskustvo. Kako objašnjava Mirsky, slanje tokena u velikim serijama može uzrokovati kašnjenja, dok bi paketi za punjenje povećali količinu prometa poslanog u svakom odgovoru.

Nakon što je ova studija objavljena, OpenAi i Cloudflare implementirali su promjene koje bi trebale smanjiti mogućnost takvih napada. 

Izvor: Ars Technica

 

PODIJELJENO 0 PUTA

Podijeli

aktualno najčitanije
Virus herpesa mogao bi uskoro biti odobren za liječenje teškog oblika raka
Čeka se odluka američkog FDA
Virus herpesa mogao bi uskoro biti odobren za liječenje teškog oblika raka
Skandal u Washingtonu: Prevarant koristio umjetnu inteligenciju, predstavljao se kao visoki dužnosnik i slao poruke ministrima
Pokušaj manipulacije?
Skandal u Washingtonu: Prevarant koristio umjetnu inteligenciju, predstavljao se kao visoki dužnosnik i slao poruke ministrima
Sindikat učitelja dogovorio zanimljivo partnerstvo s AI divovima
Vrijedno 23 milijuna dolara
Sindikat učitelja dogovorio zanimljivo partnerstvo s AI divovima
Vrućina u Europi postaje sve smrtonosnija: Posebno je ugrožena jedna skupina ljudi
Ekstremne razine
Vrućina u Europi postaje sve smrtonosnija: Posebno je ugrožena jedna skupina ljudi
Lipanj je srušio nove temperaturne rekorde: Toplinski valovi vjerojatno će biti sve češći i intenzivniji
Objavio Copernicus
Lipanj je srušio nove temperaturne rekorde: Toplinski valovi vjerojatno će biti sve češći i intenzivniji
Što to sprema suosnivač Twittera? Uzeo si vikend, malo učio i izbacio aplikaciju koja može bit konkurent WhatsAppu
Radi bez interneta
Što to sprema suosnivač Twittera? Uzeo si vikend, malo učio i izbacio aplikaciju koja može bit konkurent WhatsAppu
FOTO U javnosti se pojavile prve fotografije kineskog "Čudovišta iz Bohajskog mora"
Tehnologija Hladnog rata
FOTO U javnosti se pojavile prve fotografije kineskog "Čudovišta iz Bohajskog mora"
Ovaj američki sustav protuzračne obrane postao je top-oružje, ali i top-meta za Ruse
Američki stručnjaci upozoravaju
Ovaj američki sustav protuzračne obrane postao je top-oružje, ali i top-meta za Ruse
Pojava koja zbunjuje znanstvenike: Zemljina rotacija ubrzava što će rezultirati najkraćim danom
zemlja je poludjela
Znanstvenici upozoravaju: Dolazi dan kakav čovječanstvo još nije doživjelo
FOTO Je li djelatnik NASA-e i astronom amater prvi put dosad zabilježio neuhvatljivi događaj na Saturnu?
Znanstvenici se nadaju
FOTO Je li djelatnik NASA-e i astronom amater prvi put dosad zabilježio neuhvatljivi događaj na Saturnu?
Astronautkinja na Međunarodnoj svemirskoj postaji uhvatila "crvenog duha"
Rijetki fenomen
Astronautkinja na Međunarodnoj svemirskoj postaji uhvatila "crvenog duha"
Otkriveno kad će se svemir početi smanjivati, što će u konačnici dovesti i do njegova "Velikog kolapsa"
Trenutno se širi, no...
Otkriveno kad će se svemir početi smanjivati, što će u konačnici dovesti i do njegova "Velikog kolapsa"

Vezane vijesti

Ne propustite ni ovo

vijesti
Čovjek šokiran prizorom na dalmatinskoj plaži, snimio grupnjak
STRASTI NA OBALI
Čovjek šokiran prizorom na dalmatinskoj plaži: "Zbog perverznjaka ne mogu dolaziti"
Cijeli Jadran pod žutim upozorenjem DHMZ-a
potencijalno opasno vrijeme
Ovom dijelu zemlje prijete nove oluje: DHMZ izdao upozorenje
Bjelovar: Na nogostupu pronađen mrtav muškarac
očevid u tijeku
Na nogostupu usred grada pronađen mrtav muškarac: Procurilo što se dogodilo
show
Još jedan neugodan trenutak Brigitte i Emmanuela Macrona
video postao viralan
Još jedan neugodan trenutak Emmanuela i Brigitte Macron, sve se događalo ispred kraljevskog para!
Ella Dvornik u šetnji u društvu novog partnera
pogled sve govori
Ella Dvornik pokazala novog partnera? Objavila je niz zajedničkih fotografija
Kapa Stefana Đokovića privukla pozornost na Wimbledonu
nikako nije obična
Sin Novaka Đokovića zbog kape koju je nosio postao najveća zvijezda Wimbledona
zdravlje
Ako osjetite ovu bol, odmah se testirajte na novu COVID varijantu!
Sve više ljudi prijavljuje ovaj simptom
Ako osjetite ovu bol, odmah se testirajte na novu COVID varijantu!
Sir vam zapravo može izazvati noćne more! Evo zašto
Nova studija
Sir vam zapravo može izazvati noćne more! Evo zašto
Večera za dijabetičare: 13 recepata koje ćete obožavati
Bez skokova šećera u krvi!
Večera za dijabetičare: 13 recepata koje ćete obožavati
zabava
Scena na granici s BiH podigla prašinu: "A tko si ti da njima zabraniš da prođu?"
Jao…
Scena na granici s BiH podigla prašinu: "A tko si ti da njima zabraniš da prođu?"
Turistica iz Indije naljutila cijeli Balkan: "Ovo je bosansko nacionalno piće"
Podigla prašinu
Turistica iz Indije naljutila cijeli Balkan: "Ovo je bosansko nacionalno piće"
Srbin poslao poruku profesoru geografije, objava nasmijala cijelu regiju
LOL
Srbin poslao poruku profesoru geografije, objava nasmijala cijelu regiju
tech
FOTO U javnosti se pojavile prve fotografije kineskog "Čudovišta iz Bohajskog mora"
Tehnologija Hladnog rata
FOTO U javnosti se pojavile prve fotografije kineskog "Čudovišta iz Bohajskog mora"
Ovaj američki sustav protuzračne obrane postao je top-oružje, ali i top-meta za Ruse
Američki stručnjaci upozoravaju
Ovaj američki sustav protuzračne obrane postao je top-oružje, ali i top-meta za Ruse
FOTO Je li djelatnik NASA-e i astronom amater prvi put dosad zabilježio neuhvatljivi događaj na Saturnu?
Znanstvenici se nadaju
FOTO Je li djelatnik NASA-e i astronom amater prvi put dosad zabilježio neuhvatljivi događaj na Saturnu?
sport
Chelsea prošao u finale Svjetskog klupskog prvenstva
Pravi spektakl
VIDEO Poznat prvi finalist klupskog SP-a: Brazilac zabio dvije golčine, pa se ispričavao
Filip Ivić prvi put se oglasio nakon izbacivanja iz kluba zbog Thompsona
potjerali ga
Filip Ivić prvi put se oglasio nakon izbacivanja iz kluba zbog Thompsona
UEFA priprema veliku promjenu kod domaćinstva utakmica
Više nema ždrijeba
UEFA priprema veliku promjenu: Domaći teren postaje privilegija
tv
Daleki grad: Postavila mu je teško pitanje - zašto ju to zanima?
DALEKI GRAD
Daleki grad: Postavila mu je teško pitanje - zašto ju to zanima?
Daleki grad: Izrekla je nešto grozno i odmah požalila
DALEKI GRAD
Izrekla je nešto grozno i odmah požalila
Zlatni kavez: Sve je spremno za završnu fazu plana - hoće li uspjeti?
ZLATNI KAVEZ
Sve je spremno za završnu fazu plana - hoće li uspjeti?
putovanja
Tjedni jelovnik lagana i osvježavajuća jela od 7. 7. do 13. 7. 2025.
Tjedni jelovnik
7 laganih i finih jela za svaki dan ovoga tjedna za koje vam ne treba puno vremena ni truda
"Gori su od Francuza": Razlog zbog kojeg se turisti najviše žale na Hrvate
Imaju li pravo?
"Gori su od Francuza": Razlog zbog kojeg se turisti najviše žale na Hrvate
Stranci upozoravaju: Ovo su stvari na koje trebate pripaziti ako putujete u Hrvatsku
Imaju li pravo?
Stranci upozoravaju: Ovo su stvari na koje trebate pripaziti ako putujete u Hrvatsku
novac
Zašto bi najnapredniji vojni avioni u Europi mogli predstavljati problem
obrambena autonomija
Zašto bi najnapredniji vojni avioni u Europi mogli predstavljati problem
Lika i Gorski kotar bit će nova Dalmacija i Istra, a Žnjan je primjer loše prilagodbe na klimatske promjene
vrućine dolaze
Lika i Gorski kotar bit će nova Dalmacija i Istra, a Žnjan je primjer loše prilagodbe na klimatske promjene
Nakon vjenčanja u Veneciji, Jeff Bezos prodao dionice Amazona vrijedne više od 700 milijuna dolara
otkrili zašto
Nakon vjenčanja u Veneciji Jeff Bezos prodao dionice Amazona vrijedne više od 700 milijuna dolara
lifestyle
Davorka Dalić u dugoj šarenoj haljini
EFEKTNA I ELEGANTNA
Kradljivica pozornosti: Šarena haljina Davorke Dalić stvorena je za večernje ljetne prigode
Brigitte Macron i Catherine Middleton susrele su se u Londonu
NJEŽNI TONOVI
Brigitte Macron i Catherine Middleton: Koja se dama bolje odjenula za susret u Londonu?
Ivana Vrdoljak Vanna u sandalama Valentino i bijeloj haljinici
I PRSLUK JE TOP
Ivana Vrdoljak Vanna: Glamurozne sandale kojima je kratka bijela haljina perfektan par
sve
Još jedan neugodan trenutak Brigitte i Emmanuela Macrona
video postao viralan
Još jedan neugodan trenutak Emmanuela i Brigitte Macron, sve se događalo ispred kraljevskog para!
Ella Dvornik u šetnji u društvu novog partnera
pogled sve govori
Ella Dvornik pokazala novog partnera? Objavila je niz zajedničkih fotografija
Chelsea prošao u finale Svjetskog klupskog prvenstva
Pravi spektakl
VIDEO Poznat prvi finalist klupskog SP-a: Brazilac zabio dvije golčine, pa se ispričavao

 

Nastavi čitati

Tehnologija
Marco Rubio
Pokušaj manipulacije?

Skandal u Washingtonu: Prevarant koristio umjetnu inteligenciju, predstavljao se kao visoki dužnosnik i slao poruke ministrima

piše Hina
Tehnologija
Umjetna inteligencija i djeca, ilustracija
Vrijedno 23 milijuna dolara

Sindikat učitelja dogovorio zanimljivo partnerstvo s AI divovima

piše Hina
Tehnologija
Dalekovod, ilustracija
Nužna modernizacija mreže

Trebaju li hrvatskoj baterijski spremnici za energiju? Kreće studija koja će dati odgovor na to pitanje

piše Hina
Tehnologija
Telefon na koncertu, ilustracija
Telekomi se iskazali

Koncert u brojkama telekoma: Mreže su izdržale bez problema, a najčešće se koristio - WhatsApp

piše Martina Čizmić
Tehnologija
Sustav protuzračne obrane Patriot u Ukrajini
Američki stručnjaci upozoravaju

Ovaj američki sustav protuzračne obrane postao je top-oružje, ali i top-meta za Ruse

piše Branimir Vorša
Tehnologija
Electronic Line Calling (ELC)
Gotovo da su gori od ljudi

Tenisači u Wimbledonu nisu zadovoljni AI sucima: Ne vide uvijek loptu, donose pogrešne odluke...

piše Martina Čizmić
  • Pišite nam
  • Uredništvo
  • Oglašavanje i marketing
  • Uvjeti korištenja
  • Politika zaštite privatnosti
  • Politika o kolačićima
  • Dnevnik
  • Nova Plus
  • Gol.hr
  • Zadovoljna
  • Kreni Zdravo
  • NovaTV
  • DomaTV
Upravljaj obavijestima