Alati bazirani na umjetnoj inteligenciji mnogima su značajno olakšali poslove i živote pa tako danas neke stvari za koje bi prije gubili dane, možemo obaviti za desetak minuta zahvaljujući ChatGPT-u ili drugim alatima. Mogućnosti ove tehnologije zaista su nevjerojatne, no uvijek kada koristite umjetnu inteligenciju trebate imati na umu kako je ona daleko od savršene te, ako nešto ne zna ili upit nije bio dovoljno dobar, može izmišljati, tj. halucinirati.
Zato treba biti posebno oprezan kada s AI razgovarate o nekim pravnim i financijskim savjetima, a to se posebno odnosi na - zdravstvene savjete.
AI, naravno, nije doktor te se za sve zdravstvene savjete, a pogotovo oko uzimanja lijekova i slično, treba obratiti vašem obiteljskom liječniku ili specijalistu kako bi dobili pravu terapiju.
Opasni savjeti
Usprkos takvim brojnim upozorenjima, mnogima je jednostavnije porazgovarati s AI doktorom i poslušati te savjete, no kako se pokazalo u praksi ti savjeti mogu biti itekako opasni (sjetimo se samo onih o stavljanja ljepila na pizzu i slično). To se pogotovo odnosi na opciju koja se pokazuje prilikom guglanja AI Overviews, odnosno AI pregled. Riječ je o sažetku u kojem se nalazi AI generirani odgovor na korisnički upit, a ispod kojeg se nalaze tradicionalni rezultati s linkovima ne koje korisnici moraju kliknuti kako bi na stranicama mogli pronaći odgovor na svoj upit.
Kako upozoravaju na The Guardianu, pokazalo se kako je, prilikom pretraživanja interneta o zdravstvenim problemima, Googleova AI opcija korisnicima davala savjete u kojima nisu naglasili sigurnosna upozorenja kako bi ti savjeti mogli biti - pogrešni.
Oni koji slijepo vjeruju AI-u, a takvih nije malo, mogli bi primijeniti savjete koji im se prikažu putem AI pregleda, iako bi takvi savjeti mogli biti opasni za zdravlje. Iz The Guardiana su kontaktirali Google oko tih medicinskih savjeta te su im iz tehnološkom giganta odgovorili kako u slučaju osjetljivih tema uvijek potiču korisnike da potraže stručnu pomoć, umjesto da se oslanjaju isključivo na sažetke njihove umjetne inteligencije.
AI Overviews će obavijestiti ljude kada je važno potražiti savjet stručnjaka ili provjeriti prikazane informacije, tvrde iz Googlea, na kako navode na ovom portalu, u praksi je situacija drukčija. Naime, na temelju njihova istraživanja, kada se korisnicima prvi put prikazuju medicinski savjeti, onda se takva upozorenja o kojima govore iz Googlea - ne prikazuju.
Zabrinjavajuća saznanja
Ta upozorenja o kojima Google govori prikazuju se, ali tek nakon što korisnici odluče zatražiti dodatne zdravstvene savjete klikom na “prikaži više”, no i u tom slučaju ona se prikazuju tek na dnu, ispod svih medicinskih AI savjeta i nisu dobro označena. Na tom dijelu stoji kako su savjeti “informativnog karaktera” te da bi za medicinske savjete i dijagnoze trebali kontaktirati profesionalce, uz dodatak kako AI odgovori mogu biti pogrešni.
Zdravstveni i AI stručnjaci koji su razgovarali s novinarima The Guardiana upozoravaju kako su ova saznanja “zabrinjavajuća” jer bi se ta sigurnosna upozorenja trebala pojaviti odmah čim se korisnicima na ekranu prikažu prvi medicinski savjeti. Nakon što je The Guardian ranije objavio ove informacije, iz Googlea su reagirali te su uklonili AI medicinske savjete za neke upite, no za dio zdravstvenih upita i dalje se prikazuje AI pregled - i to bez upozorenja o opasnostima prilikom prvog upita.
