zimo mobile logo
  • Tehnologija
  • Znanost
  • Društvene mreže
  • Esport
  • Business
Prati nas:
Upravljaj obavijestima
  • Prijavi se na newsletter
  • Imaš priču? Pošalji
  • Pišite nam
  • Uredništvo
  • Oglašavanje i marketing
  • Uvjeti korištenja
  • Vijesti
  • Video
  • Zadovoljna
  • Tech
  • Blog
  • Nova TV
  • Doma TV
Nova TV
  • Vijesti
  • Video
  • Zadovoljna
  • Tech
  • Blog
  • Nova TV
  • Doma TV
  • zimo logo
  • Tehnologija
  • Znanost
  • Društvene mreže
  • Esport
  • Business
Prati nas:
  • Dnevnik.hr
  • Vijesti
  • Sport
  • Showbizz
  • Lifestyle
  • Putovanja
  • Zdravlje
  • Biznis
  • Zabava
  • Teen
  • Tv
Tehnologija

Znanstvenici otkrili ranjivost AI chatbotova: Vaši razgovori s njima i nisu baš tako privatni kako mislite

ChatGPT nije jedini chatbot koji je izložen takvom napadu, ali isto tako, jedini chatbot koji nije ranjiv jest Googleov Gemini.

Martina Čizmić | 17.03.2024. / 10:25 komentari

Podijeli

Slika nije dostupna (Foto: Zimo)

Koristite li ChatGPT, trebali biste biti oprezni s informacijama koje s njim dijelite. Naime, voditelj laboratorija za istraživanje ofenzivne umjetne inteligencije na izraelskom Sveučilištu Ben-Gurion Yisroel Mirsky otkrio je kako je trenutačno moguće čitati privatne razgovore s ChatGPT-a i drugih takvih servisa.

tri vijesti o kojima se priča 3I/ATLAS Ne slažu se svi s njim Upozorenje astrofizičara s Harvarda: Na međuzvjezdanom objektu dolaze izvanzemaljci? Udar munje, ilustracija Bolje spriječiti... Znate li kako zaštititi svoje električne uređaje tijekom grmljavinskog nevremena? Google Pixel 6a Zapaljeno najmanje 5 komada Koristite li ovaj telefon? Još jednom modelu je eksplodirala baterija

Iako servisi poput ChatGPT-a koriste enkripciju za zaštitu razgovora između korisnika i servisa, kako ističe Mirsky, ta enkripcija nije dovoljno dobra za zaštitu podataka.

Objašnjava kako hakeri ili drugi zlonamjerni akteri koji su na istoj mreži kao i "žrtva" mogu promatrati promet između korisnika i servisa, te s pomoću metapodataka i velikih jezičnih modela posebno osposobljenih za taj zadatak, dorađivati te podatke i otkrivati o čemu se u "hakiranom" razgovoru raspravljalo.

Otkrili smo da je ovaj napad iznimno dobar u dešifriranju odgovora na uobičajena pitanja koja ljudi postavljaju svojim pomoćnicima (npr. podaci iz povijesti, savjeti), ali se muči s dešifriranjem proizvoljnog sadržaja (npr. rješavanje zagonetke), napisao je Mirsky

Kako ističe Mirsky, takav pasivni napad u čak 55 posto slučajeva može zaključiti o čemu se raspravljalo u razgovoru, a savršeno može biti točan u čak 29 posto slučajeva.

Napad je pasivan i može se dogoditi bez znanja OpenAI-a ili njihova klijenta. OpenAI šifrira njihov promet kako bi spriječio takve vrste napada, ali naše je istraživanje pokazalo da je način na koji OpenAI koristi enkripciju pogrešan i sadržaj je poruka izložen, istaknuo je za Ars Technicu.

Zanimljivo, ChatGPT nije jedini chatbot koji je izložen takvom napadu, ali isto tako, jedini chatbot koji nije ranjiv jest Googleov Gemini.

Istraživači su, u svojoj studiji, dali dva prijedloga za ublažavanje učinkovitosti takva napada. Prvi je slijediti Googleov primjer i prestati slati pakete jedan po jedan jer ih takvo slanje čini lakšima za otkrivanje i prevođenje. Drugi je primijeniti tehniku ​​koja paketima dodaje nasumične količine razmaka tako da svi imaju fiksnu duljinu jednaku najvećem mogućem paketu. Time bi se otežalo njihovo prepoznavanje. 

No problem je što bi primjenom i jednog i drugog prijedloga bio usporen odgovor chatbota korisniku, što bi degradiralo korisničko iskustvo. Kako objašnjava Mirsky, slanje tokena u velikim serijama može uzrokovati kašnjenja, dok bi paketi za punjenje povećali količinu prometa poslanog u svakom odgovoru.

Nakon što je ova studija objavljena, OpenAi i Cloudflare implementirali su promjene koje bi trebale smanjiti mogućnost takvih napada. 

Izvor: Ars Technica

 

PODIJELJENO 0 PUTA

Podijeli

Komentirajte clanke na portalima Nove TV i osvojite vrijedne nagrade

aktualno najčitanije
Zuckerbergovo viđenje budućnosti: "Osobna superinteligencija koja nas duboko poznaje, razumije naše ciljeve i može nam pomoći da ih ostvarimo"
Najavio Zuckerberg
Zuckerbergovo viđenje budućnosti: "Osobna superinteligencija koja nas duboko poznaje, razumije naše ciljeve i može nam pomoći da ih ostvarimo"
Microsoft pokreće inicijativu za očuvanje jezika i kulturnog identiteta Europe u doba umjetne inteligencije
Borba protiv digitalne neravnoteže
Microsoft pokreće inicijativu za očuvanje jezika i kulturnog identiteta Europe u doba umjetne inteligencije
Ruka koja je preživjela tisućljeća: Otkriven "potpis" egipatskog majstora napravljen prije 4000 godina
Drevni trag
Ruka koja je preživjela tisućljeća: Otkriven "potpis" egipatskog majstora napravljen prije 4000 godina
“Strašni robotski pas” ima novi posao: Je li to naznaka onog što nas čeka u budućnosti?
Domidog
“Strašni robotski pas” ima novi posao: Je li to naznaka onog što nas čeka u budućnosti?
Kako prepoznati "financijsku prijevaru" i zaštititi svoj novac?
Sve ih je više
Kako prepoznati financijsku prijevaru i zaštititi svoj novac?
Tresla se brda, rodilo se - niš: Najavljeni tragovi izvanzemaljskog života na ovom egzoplanetu praktički nestali
Nakon novih promatranja
Tresla se brda, rodilo se - niš: Najavljeni tragovi izvanzemaljskog života na ovom egzoplanetu praktički nestali
Znate li kako zaštititi svoje električne uređaje tijekom grmljavinskog nevremena?
Bolje spriječiti...
Znate li kako zaštititi svoje električne uređaje tijekom grmljavinskog nevremena?
Koristite li ovaj telefon? Još jednom modelu je eksplodirala baterija
Zapaljeno najmanje 5 komada
Koristite li ovaj telefon? Još jednom modelu je eksplodirala baterija
Kontroverzni astrofizičar ponovno uzburkao duhove: Je li novootkriveni međuzvjezdani objekt zapravo izvanzemaljska letjelica?
Ne slažu se svi s njim
Upozorenje astrofizičara s Harvarda: Na međuzvjezdanom objektu dolaze izvanzemaljci?
Radikalan zakon stupio na snagu: Ako želite gledati pornografiju, snimite selfie ili pokažite osobne dokumente
Što može poći po zlu?
Radikalan zakon stupio na snagu: Ako želite gledati pornografiju, snimite selfie ili pokažite osobne dokumente
Misterij plavkastih stijena: Novo otkriće mijenja priču o Stonehengu
Zapanjujuće
Misterij plavkastih stijena: Novo otkriće mijenja priču o Stonehengu
Što je cunami, kako nastaje i zašto može biti opasan?
"Val u luci"
Što je cunami, kako nastaje i zašto može biti opasan?

Vezane vijesti

Pokrovitelj Rondomondo

Preplanuli ten i glow iz snova: Otkrivamo irski beauty dragulj u koji smo se zaljubile na prvi pogled...

Pokrovitelj Franck

Za trenutke opuštanja i uživanja: Hladna čarolija u čaši koju ćemo teško ispuštati iz ruku ovog ljeta...

POKROVITELJ ADDIKO

Glasno o novcu: Zašto Hrvati i dalje šapuću kad pričaju o financijama?...

Pokrovitelj dm

Find Your Beauty: Skincare trendovi, radionice i ljetna čarolija na dm beauty breaku...

Ne propustite ni ovo

vijesti
VIDEO Bloger objavio video s broda kad je razorni potres pogodio Rusiju: Životinje bježe u vodu, stijene pucaju
Strašni prizori
VIDEO Ivan objavio snimku s broda u trenutku udara razornog potresa: Životinje bježe u vodu, stijene pucaju
Snažan potres i cunami na ruskom dalekom istoku, evakuacije u Japanu i na Havajima
Valovi visoki nekoliko metara
VIDEO Ove zemlje sljedeće su na udaru: Izvanredno stanje, erumpirao vulkan, evakuirana nuklearka
Novi Zeland poslao upozorenje građanima da se nešto neobično događa u oceanu i da budu oprezni
Stvarna opasnost
Novi Zeland poslao upozorenje da se nešto neobično događa u oceanu
show
Bloom Tatarinov pjevao pjesmu Olivera Dragojevića ''Prva ljubav''
''Skrivam suze ispod naočala!''
Pripremite maramice i poslušajte Oliverovu ''Prvu ljubav'' u izvedbi Majinog Blooma!
Tedi Spalato i Branka Šlegl u Veloj Luci
osjeća se kao mladić
Znate li tko je partnerica Tedija Spalata? Zanimljivo je gdje su se upoznali!
Kako izgleda djevojka Justusa Reida, Amerikanca koji je u Hrvatskoj kupio kuću za 5000 eura?
I ona pomaže u obnovi
Kako izgleda djevojka Amerikanca iz Supertalenta koji je kupio kuću u Hrvatskoj za 5000 eura?
zdravlje
Zdravlje počinje u crijevima: Što nas je naučilo 14 dana s Donatom?
KRENI ZDRAVO
Zdravlje počinje u crijevima: Što nas je naučilo 14 dana s Donatom?
Jedno jaje tjedno povezano je s manjim rizikom od ove teške bolesti!
Alarmanti rezultati nove studije
Jedno jaje tjedno povezano je s manjim rizikom od ove teške bolesti!
Tablete za tlak ujutro ili navečer? Evo što trebate znati
Koje je vrijeme najbolje?
Tablete za tlak ujutro ili navečer? Evo što trebate znati
zabava
Primijetite li ovaj fenomen na površini mora, bolje bježite na kopno
Bolje ne!
Primijetite li ovaj fenomen na površini mora, bolje bježite na kopno
Ovaj kviz nije za svakoga – samo najpametniji dolaze do kraja
Pokažite što znate!
Ovaj kviz nije za svakoga – samo najpametniji dolaze do kraja
"Kako znaš da su Bosanci na plaži": Objava nasmijala cijelu regiju, svi se slažu s jednom stvari
Morske pustolovine
"Kako znaš da su Bosanci na plaži": Objava nasmijala cijelu regiju, svi se slažu s jednom stvari
tech
Znate li kako zaštititi svoje električne uređaje tijekom grmljavinskog nevremena?
Bolje spriječiti...
Znate li kako zaštititi svoje električne uređaje tijekom grmljavinskog nevremena?
Koristite li ovaj telefon? Još jednom modelu je eksplodirala baterija
Zapaljeno najmanje 5 komada
Koristite li ovaj telefon? Još jednom modelu je eksplodirala baterija
Kontroverzni astrofizičar ponovno uzburkao duhove: Je li novootkriveni međuzvjezdani objekt zapravo izvanzemaljska letjelica?
Ne slažu se svi s njim
Upozorenje astrofizičara s Harvarda: Na međuzvjezdanom objektu dolaze izvanzemaljci?
sport
FOTO Dilettinu kolegicu razapeli zbog ovog dubokog dekoltea: "Neću se odreći ženstvenosti"
ne vidimo problem
FOTO Dilettinu kolegicu razapeli zbog ovog dubokog dekoltea: "Neću se odreći ženstvenosti"
Dinamo objavio Stojkovićevu fotografiju nakon Petkovićevih rafala
Prava vatra
Pogledajte što je objavio Dinamo nakon Petkovićevih rafala po Bobanu: Navijači burno reagirali
Drama u Bugarskoj: Rijeka s dva igrača manje pokleknula u produžetku
Velika šteta
Drama u Bugarskoj: Rijeka s dva igrača manje pokleknula u produžetku
tv
Daleki grad: Je li razgovor bio smiren kako je i najavio?
DALEKI GRAD
Daleki grad: Je li razgovor bio smiren kako je i najavio?
Daleki grad: Ljubomora ga razdire - što će učiniti po tom pitanju?
DALEKI GRAD
Ljubomora ga razdire - što će učiniti po tom pitanju?
Leyla: Hoće li pristati na njezinu manipulaciju i odustati od testa?
LEYLA
Leyla: Hoće li pristati na njezinu manipulaciju i odustati od testa?
putovanja
Tjedni jelovnik sirotinjska jela 28.7. do 3.8. 2025.
Tjedni jelovnik
7 sirotinjskih jela za svaki dan ovoga tjedna koji se mogu napraviti za smiješan novac
Amerikanci u čudu o Hrvatskoj: "Sve je maleno, hrana je bizarna, a od zahodske mafije imamo traume"
Kulturološki šok
Amerikanci u čudu o Hrvatskoj: "Sve je maleno, hrana je bizarna, a od zahodske mafije imamo traume"
Jadranski cunami: Dan kada je podivljalo more uhvatilo ljude na spavanju, izvlačilo ih iz kuća i potapalo brodove
Nezapamćena nepogoda
Jadranski cunami: Dan kada je podivljalo more uhvatilo ljude na spavanju, izvlačilo ih iz kuća i potapalo brodove
novac
Nama susjedna zemlja ima najveći rast milijunaša u svijetu u posljednjih deset godina
Raj za bogataše
Nama susjedna zemlja ima najveći rast milijunaša u svijetu u posljednjih deset godina
Kina više nije najveći izvoznik mobitela u Ameriku, prvi put ju je prestigla jedna druga zemlja, i to jako
Sve zbog iPhonea
Kina više nije najveći izvoznik mobitela u Ameriku, prvi put ju je prestigla jedna druga zemlja, i to jako
U pripremi uvođenje željezničkog sustava vrijednog 35 milijuna eura, najavljena i rekonstrukcija kolodvora
Osuvremenjivanje pruge
U pripremi uvođenje željezničkog sustava vrijednog 35 milijuna eura, najavljena i rekonstrukcija kolodvora
lifestyle
Davorka Dalić u mini haljini i zlatnim platformama
ODLIČNO IZDANJE
Davorka Dalić: Mini haljina i zlatne platforme za koncert u čast Oliveru Dragojeviću
Bloom s oversize sunčanim naočalama na večeri u Istri
FURA SVOJ STIL
Pogledajte kako se Bloom sredio za večeru u restoranu, stavio je i oversize sunčane naočale
Nina Badrić u ružičastoj dugoj haljini na koncertu "Trag u beskraju"
Besprijekorno elegantna
Nina Badrić, ponovno The Diva: Haljina koja kao da lebdi prava je oda ženstvenosti
sve
Bloom Tatarinov pjevao pjesmu Olivera Dragojevića ''Prva ljubav''
''Skrivam suze ispod naočala!''
Pripremite maramice i poslušajte Oliverovu ''Prvu ljubav'' u izvedbi Majinog Blooma!
Davorka Dalić u mini haljini i zlatnim platformama
ODLIČNO IZDANJE
Davorka Dalić: Mini haljina i zlatne platforme za koncert u čast Oliveru Dragojeviću
Tedi Spalato i Branka Šlegl u Veloj Luci
osjeća se kao mladić
Znate li tko je partnerica Tedija Spalata? Zanimljivo je gdje su se upoznali!

6.600,00 €

VW Passat Variant 1.6 TDI, Navi, MF volan, Temp, Alu 17, Reg. 3/2026

SAZNAJ VIŠE

21.990,00 €

Mercedes-Benz B 180 d PROGRESSIVE 7G/Led/Pano/Kamera/Kuka/Alu 17

SAZNAJ VIŠE

17.999,99 €

Škoda Superb Combi 2.0 TDI DSG / 110kw / Style / 2017.god

SAZNAJ VIŠE

1.590,00 €

Sinclair Marine ASB-12A

SAZNAJ VIŠE

Nastavi čitati

Tehnologija
Mark Zuckerberg
Najavio Zuckerberg

Zuckerbergovo viđenje budućnosti: "Osobna superinteligencija koja nas duboko poznaje, razumije naše ciljeve i može nam pomoći da ih ostvarimo"

piše Martina Čizmić
Tehnologija
AI Europa, ilustracija
Borba protiv digitalne neravnoteže

Microsoft pokreće inicijativu za očuvanje jezika i kulturnog identiteta Europe u doba umjetne inteligencije

piše Martina Čizmić
Tehnologija
Domidog
Domidog

“Strašni robotski pas” ima novi posao: Je li to naznaka onog što nas čeka u budućnosti?

piše Hrvoje Jurman
Tehnologija
Prijevara, ilustracija
Sve ih je više

Kako prepoznati financijsku prijevaru i zaštititi svoj novac?

piše Martina Čizmić
Tehnologija
AI liječnik, ilustracija
Manje kompetenti?

Istraživanje otkrilo: Pacijenti imaju manje povjerenja u liječnike koji koriste umjetnu inteligenciju

piše Hina
Tehnologija
Tinejdžer s telefonom, ilustracija
Počela testiranja

Mnogima se ova odluka neće svidjeti: YouTube će dijelu korisnika ograničiti pristup sadržaju

piše Hrvoje Jurman
  • Pišite nam
  • Uredništvo
  • Oglašavanje i marketing
  • Uvjeti korištenja
  • Politika zaštite privatnosti
  • Politika o kolačićima
  • Dnevnik
  • Nova Plus
  • Gol.hr
  • Zadovoljna
  • Kreni Zdravo
  • NovaTV
  • DomaTV
Upravljaj obavijestima