Svjetska zdravstvena organizacija (WHO) sa sjedištem u Ženevi pozdravlja golemi potencijal umjetne inteligencije, koja može biti jako korisna, no upozorava da uvođenje postupaka liječenja AI-a u zdravstveni sustav nosi opasnost od "potpuno pogrešne" informacije.
Nužno je procijeniti opasnosti korištenja alata LLMs (generated large language model tools), kao što je ChatGPT, jer oni mogu voditi do teških pogrešaka u zdravstvu i potkopati povjerenje u AI, priopćio je WHO.
UN-ova agencija za zdravlje oglasila se u vrijeme kada primjene umjetne inteligencije strelovitom brzinom stječu popularnost. Zabrinutost proistječe iz toga što se redovite norme opreza ne primjenjuju na LLMs.
Predlagači korištenja AI-a vjeruju da će se liječnici ubrzo koristiti sustavom AI chat da brže odgovore na pitanja pacijenata o njihovu zdravlju, a koristit će se AI-em i u dijagnostici.
Međutim, dva chatbota, Microsofta te Googlea, pokazala su da njihovi odgovori nisu potpuno pouzdani kad je riječ o činjenicama, a WHO je zabrinut baš zato što se ti odgovori čine pouzdanima.
LLMs proizvodi odgovore koji se mogu činiti autoritativnima i vjerodostojnima krajnjem korisniku. Međutim, ti odgovori mogu biti potpuno netočni ili sadržati ozbiljne pogreške, posebno kad je riječ o odgovorima povezanima sa zdravljem, upozorava WHO.
Te informacije mogu dovesti u zabludu i proizvesti informaciju koja će se činiti jako vjerodostojnom, a koju javnost ne može razlučiti od pouzdane.
WHO stoga predlaže da se prije primjene AI-a u zdravstvu struka pozabavi tim pitanjima te da izmjeri korist i štete prije nego što odobri njezino opsežno korištenje.
