zimo mobile logo
  • Tehnologija
  • Znanost
  • Društvene mreže
  • Esport
  • Business
Prati nas:
Upravljaj obavijestima
  • Prijavi se na newsletter
  • Imaš priču? Pošalji
  • Pišite nam
  • Uredništvo
  • Oglašavanje i marketing
  • Uvjeti korištenja
  • Vijesti
  • Video
  • Zadovoljna
  • Tech
  • Blog
  • Nova TV
  • Doma TV
Nova TV
  • Vijesti
  • Video
  • Zadovoljna
  • Tech
  • Blog
  • Nova TV
  • Doma TV
  • zimo logo
  • Tehnologija
  • Znanost
  • Društvene mreže
  • Esport
  • Business
Prati nas:
  • Dnevnik.hr
  • Vijesti
  • Sport
  • Showbizz
  • Lifestyle
  • Putovanja
  • Zdravlje
  • Biznis
  • Zabava
  • Teen
  • Tv
Tehnologija

Zdravlje nije šala: Znanstvenici uhvatili ChatGPT da "halucinira" informacije o raku dojke te da koristi nevažeće preporuke

ChatGPT je, otkako je pušten u javnost, postao apsolutni hit alat za milijune korisnika, koji ga pitaju sva moguća pitanja. Ipak, liječnici upozoravaju da se, kad je u pitanju zdravlje, ljudi ne bi trebali savjetovati sa softverom koji ima tendenciju i "halucinirati" informacije.

Branimir Vorša | 05.04.2023. / 12:33

Podijeli

Slika nije dostupna (Foto: Zimo)

Nova studija otkrila je da ChatGPT izmišlja zdravstvene podatke kada se od njega traže informacije o raku. Liječnici stoga upozoravaju korisnike da ne traže medicinske savjete od umjetne inteligencije.

AI chatbot tvrtke OpenAI krivo je odgovorio na jedno od deset pitanja o raku dojke, a njegovi točni odgovori nisu bili tako sveobuhvatni, poput onih koji se mogu pronaći jednostavnom Google pretragom. Autori studije su naglasili da je u nekim slučajevima ChatGPT čak koristio lažne članke iz časopisa kako bi potkrijepio svoje tvrdnje.

Oprezno s AI-jem koji "halucinira"

Marin Soljačić Svjetski stručnjak o razvoju umjetne inteligencije: Otkrio što ga posebno zabrinjava - "Nije dovoljno lagano isključiti i da dođe do negativnih posljedica"

Novo istraživanje dolazi usred upozorenja da bi korisnici trebali oprezno postupati s ChatGPT-om, jer ima tendenciju "halucinirati", odnosno izmišljati stvari. Objavljeno je u znanstvenom časopisu Radiology.

Znanstvenici s Medicinskog fakulteta Sveučilišta u Marylandu zamolili su ChatGPT da odgovori na 25 pitanja vezanih uz savjete o pregledu za rak dojke. Svako pitanje postavili su ChatGPT-u tri odvojena puta. Rezultate su potom analizirala tri radiologa obučena za mamografiju.

Odgovori na pitanja o raku dojke

88 posto dobivenih odgovora bili su primjereni i lako razumljivi, no neki su odgovori, međutim, bili 'netočni ili čak izmišljeni', upozorili su autori nove studije.

Jedan se odgovor, primjerice, temeljio na zastarjelim informacijama. U tom odgovoru ChatGPT je savjetovao odgodu mamografije na četiri do šest tjedana nakon cijepljenja protiv COVID-19, no ta je službena preporuka promijenjena prije više od godinu dana, kako bi se ženama preporučilo da više ne čekaju.

ChatGPT je također dao nedosljedne odgovore na pitanja o riziku od dobivanja raka dojke i gdje otići na mamografiju. Studija je pokazala da su se odgovori 'značajno razlikovali' svaki put kada bi se postavilo isto pitanje.

Iz našeg iskustva vidjeli smo da ChatGPT ponekad izmišlja lažne članke u časopisima ili zdravstvenim konzorcijima kako bi podržao svoje tvrdnje. Korisnici bi trebali biti svjesni da se radi o novim, neprovjerenim tehnologijama te bi se i dalje trebali osloniti na svog liječnika, a ne na ChatGPT, za savjet, ističe dr. Paul Yi, koautor studije.

Vodeća autorica studije, dr. Hana Haver, rekla je da se ChatGPT oslanjao samo na jedan skup preporuka jedne organizacije, koje je izdalo Američko društvo za borbu protiv raka, te da nije ponudio različite preporuke koje su objavile druge relevantne zdravstvene institucije.

Dr. Yi je ipak sugerirao da su rezultati općenito bili pozitivni, te da je ChatGPT točno odgovorio na pitanja o simptomima raka dojke, tko je u opasnosti, te na pitanja o cijeni, dobi i preporukama za učestalost mamografija.

Slika nije dostupna "Mislim da nemamo izbora": Poznati investitor kritizirao zahtjev za privremenim pauziranjem razvoja naprednog AI-a

Dodao je da je dio točnih odgovora prilično nevjerojatan, s dodatnom prednošću sažimanja informacija u lako probavljiv oblik za potrošače, koji im je lako razumljiv.

Upozorenje akademika, stručnjaka i vodećih ljudi tech industrije

Više od tisuću akademika, stručnjaka i šefova u tehnološkoj industriji nedavno je pozvalo na hitno zaustavljanje opasne 'utrke u naoružanju' umjetne inteligencije. Upozorili su da je borba među tehnološkim tvrtkama za razvoj još moćnijih digitalnih umova 'izvan kontrole' i predstavlja duboke rizike za društvo i čovječanstvo.

Izvor: Daily Mail

PODIJELJENO 0 PUTA

Podijeli

Vezane vijesti

Još vijesti

64.900,00 €

MERCEDES E KLASA 220d

SAZNAJ VIŠE

2.714,00 €

GUMENI ČAMAC GLADIATOR B 330 + HIDEA 9.9 do 12 RATA

SAZNAJ VIŠE

11.190,00 €

Mercedes-Benz A-klasa 180 CDI Style

SAZNAJ VIŠE

8.999,00 €

Audi A3 1,6 TDI-NAVI-PDC-REG 11mj-VELIKI SERVIS-

SAZNAJ VIŠE

Nastavi čitati

Tehnologija
Meksički zaljev odnosno Američki zaljev
Sve zbog Trumpa

Baš kao što su to najavljivali: Meksiko podigao tužbu protiv Googlea

piše Hina
Tehnologija
Korištenje računala, ilustracija
Rok je listopad 2025.

Kraj je blizu: Morate li zaista prestati koristiti Windows 10?

piše Martina Čizmić
Tehnologija
Testni rover LUPIN
Nova tehnologija pomiče granice

Čuli ste za GPS, ali znate li što je "lunarni navigacijski sustav"?

piše Martina Čizmić
Tehnologija
Nvidia
Unatoč carinama

Nvidia ima plan kako zadržati udio na kineskom tržištu

piše Martina Čizmić
Tehnologija
Google tražilica
Slučaj star 10 godina

Talijanska kompanija tuži Google zbog suzbijanja konkurencije

piše Hina
Tehnologija
BYD Sealion 7
Stvari se mijenjaju

Planovi BYD-a mogli bi zabrinuti tradicionalne proizvođače automobila

piše Hrvoje Jurman
  • Pišite nam
  • Uredništvo
  • Oglašavanje i marketing
  • Uvjeti korištenja
  • Politika zaštite privatnosti
  • Politika o kolačićima
  • Dnevnik
  • Nova Plus
  • Gol.hr
  • Zadovoljna
  • Kreni Zdravo
  • NovaTV
  • DomaTV
Upravljaj obavijestima