Nova studija otkrila je da ChatGPT izmišlja zdravstvene podatke kada se od njega traže informacije o raku. Liječnici stoga upozoravaju korisnike da ne traže medicinske savjete od umjetne inteligencije.
AI chatbot tvrtke OpenAI krivo je odgovorio na jedno od deset pitanja o raku dojke, a njegovi točni odgovori nisu bili tako sveobuhvatni, poput onih koji se mogu pronaći jednostavnom Google pretragom. Autori studije su naglasili da je u nekim slučajevima ChatGPT čak koristio lažne članke iz časopisa kako bi potkrijepio svoje tvrdnje.
Oprezno s AI-jem koji "halucinira"
Novo istraživanje dolazi usred upozorenja da bi korisnici trebali oprezno postupati s ChatGPT-om, jer ima tendenciju "halucinirati", odnosno izmišljati stvari. Objavljeno je u znanstvenom časopisu Radiology.
Znanstvenici s Medicinskog fakulteta Sveučilišta u Marylandu zamolili su ChatGPT da odgovori na 25 pitanja vezanih uz savjete o pregledu za rak dojke. Svako pitanje postavili su ChatGPT-u tri odvojena puta. Rezultate su potom analizirala tri radiologa obučena za mamografiju.
Odgovori na pitanja o raku dojke
88 posto dobivenih odgovora bili su primjereni i lako razumljivi, no neki su odgovori, međutim, bili 'netočni ili čak izmišljeni', upozorili su autori nove studije.
Jedan se odgovor, primjerice, temeljio na zastarjelim informacijama. U tom odgovoru ChatGPT je savjetovao odgodu mamografije na četiri do šest tjedana nakon cijepljenja protiv COVID-19, no ta je službena preporuka promijenjena prije više od godinu dana, kako bi se ženama preporučilo da više ne čekaju.
ChatGPT je također dao nedosljedne odgovore na pitanja o riziku od dobivanja raka dojke i gdje otići na mamografiju. Studija je pokazala da su se odgovori 'značajno razlikovali' svaki put kada bi se postavilo isto pitanje.
Iz našeg iskustva vidjeli smo da ChatGPT ponekad izmišlja lažne članke u časopisima ili zdravstvenim konzorcijima kako bi podržao svoje tvrdnje. Korisnici bi trebali biti svjesni da se radi o novim, neprovjerenim tehnologijama te bi se i dalje trebali osloniti na svog liječnika, a ne na ChatGPT, za savjet, ističe dr. Paul Yi, koautor studije.
Vodeća autorica studije, dr. Hana Haver, rekla je da se ChatGPT oslanjao samo na jedan skup preporuka jedne organizacije, koje je izdalo Američko društvo za borbu protiv raka, te da nije ponudio različite preporuke koje su objavile druge relevantne zdravstvene institucije.
Dr. Yi je ipak sugerirao da su rezultati općenito bili pozitivni, te da je ChatGPT točno odgovorio na pitanja o simptomima raka dojke, tko je u opasnosti, te na pitanja o cijeni, dobi i preporukama za učestalost mamografija.
Dodao je da je dio točnih odgovora prilično nevjerojatan, s dodatnom prednošću sažimanja informacija u lako probavljiv oblik za potrošače, koji im je lako razumljiv.
Upozorenje akademika, stručnjaka i vodećih ljudi tech industrije
Više od tisuću akademika, stručnjaka i šefova u tehnološkoj industriji nedavno je pozvalo na hitno zaustavljanje opasne 'utrke u naoružanju' umjetne inteligencije. Upozorili su da je borba među tehnološkim tvrtkama za razvoj još moćnijih digitalnih umova 'izvan kontrole' i predstavlja duboke rizike za društvo i čovječanstvo.
Izvor: Daily Mail
