Kaže se da je umjetna inteligencija dobra onoliko koliko su dobri i pouzdani podaci na kojima se trenira. Odgovore koje daje, dakle, bazirani su na tim podacima, iako ponekad uopće nije niti jasno kako AI, odnosno chatbotovi bazirani na AI dolaze do nekih odgovora, što je potvrdio i izvršni direktor Googlea Sundar Pichai.
A upravo su ti netočni, odnosno kako se to naziva - halucinirani odgovori jedan od najvećih problema umjetne inteligencije. S obzirom na to da mnogi danas koriste AI u poslovanju, ali i u klasičnom svakodnevnom pretraživanju, jako je važno da ti odgovori budu točni. A koliko AI može pogriješiti, čak i oko nekih banalnih i dobro poznatih stvari pokazao je upravo Googleov AI chatbot Bard koji je dao jedan krivi odgovor na pitanje o James Webb teleskopu, nakon čega je vrijednost tvrtke potonula za više od 100 milijardi dolara.
Nvidia, čiji se hardver često koristi u treniranju AI (prema nekim podacima, gotovo da drži monopol na ovom tržištu s 95 posto), želi spriječiti da se takve stvari događaju u budućnosti te su predstavili softver koji bi trebao oneomogućiti umjetnu inteligenciju u tzv. haluciniranju, odnosno da odgovara s neistinitim tvrdnjama, pogotovo oko nekih osjetljivih tema ili da pronalazi sigurnosne propuste. Softver je nazvan NeMo Guardrails te bi trebao spriječiti AI da razgovara o temama o kojima ne bi smjela, a također napravljen je kako bi spriječio chatbotove u izvršavanju opasnih komandi na računalima.
Softver se tako nalazi između komunikacije korisnika i AI alata te je neka vrsta virtualnog zida koji filtrira odgovore tih alata prema korisnicima. Jedan od načina njegove primjene je u chatbotovima za korisničku podršku te bi se u tom slučaju NeMo Guardrails pobrinuo da konverzacija uvijek bude oko zadane teme i da ne skrene u nekom drugom smjeru. Npr. moguće je zadati naredbu NeMo Guardrailsu da, u slučaju da netko pričao o određenoj temi, umjetna inteligencija odgovora samo na određeni način i time spriječi nekakve neželjene odgovore koje bi chatbot mogao dati na temelju ranijeg treniranja.
Osim što bi novi softver trebao pomoći u zaštiti korisnika i spriječiti AI u širenju lažnih i netočnih informacija, stručnjaci se slažu kako Nvidia ovako želi zadržati svoju ulogu kao dominantne tvrtke na tržištu čipova za razvoj i treniranje umjetne inteligencije.
Izvor: CNBC
