Krajolik AI chatbotova se neprestano širi, a sada se pojavilo i mnoštvo tvrtki koje korisnicima nude priliku da se uključe u razgovore sa simuliranim verzijama svojih preminulih voljenih (eng. deadbot), s cijenama koje počinju već od samo 10 dolara. Dok neki pronalaze utjehu u tim interakcijama, drugi izražavaju nelagodu zbog mogućnosti da umjetna inteligencija ovjekovječi preminule.
Etičari s britanskog Sveučilišta u Cambridgeu izrazili su značajnu zabrinutost oko onoga što nazivaju industrijom digitalnog zagrobnog života. Tvrde da chatbotovi dizajnirani da oponašaju preminule pojedince postavljaju duboka društvena i etička pitanja, s kojima se društvo tek treba u potpunosti suočiti. Među njima su pitanja vlasništva nad podacima post mortem, psihološki učinak na ožalošćene pojedince i ovlasti za njihovo trajno deaktiviranje.
Hipotetski scenarij s eksploatacijskim posljedicama
Jedan zamišljeni scenarij koji su predložili etičari Tomasz Hollanek i Katarzyna Nowaczyk-Basińska, uključuje mladu ženu koja koristi aplikaciju za uključivanje u AI simulaciju svoje preminule bake, koja joj kraju počinje prodavati proizvode dok razgovara s njom.
Ljudi bi mogli razviti snažne emocionalne veze s takvim simulacijama, što će ih učiniti posebno ranjivima na manipulaciju, upozorava Hollanek.
Dostojanstvo kao odgovor
Kao odgovor, etičari predlažu metode za umirovljenje tih "deadbotova" na dostojanstven način, slično digitalnom pogrebu. Njihov istraživački članak vezan za tu temu objavljen je u časopisu Philosophy & Technology.
Iako se poštovanje prema AI chatbotu može činiti nategnutim, ono je u skladu sa širim načelima u vezi s postupanjem s ljudskim ostacima. Neki tvrde da digitalnu ostavštinu neke osobe treba smatrati kao nešto više od pukih podataka, ističući njezinu inherentnu vrijednost i potrebu za postupanjem s poštovanjem.
Hollanek i Nowaczyk-Basińska ne zagovaraju potpunu zabranu "deadbotova", ali potiču tvrtke da s poštovanjem postupaju s podacima donatora. Oni također podupiru držanje "deadbotova" izvan javnih digitalnih prostora, s izuzetkom povijesnih osoba.
Klasifikacija deadbotova
Raspravlja se i o klasifikaciji tih AI chatbotova kao medicinskih uređaja za davanje prioriteta mentalnom zdravlju, ali se smatra previše restriktivnom. Umjesto toga, etičari zagovaraju snažne mjere transparentnosti kako bi se osiguralo da su korisnici u potpunosti informirani o rizicima povezanim s korištenjem takve "deadbot" tehnologije.
Pitanje tko ima ovlasti deaktivirati "deadbotove" ostaje neodgovoreno, osobito u slučajevima kada je preminula osoba ostavila svoju digitalnu kopiju drugima oporukom. Dodatne regulatorne mjere smatraju se potrebnima za navigiranje tim složenim etičkim vodama.
Zaključno, Hollanek i Nowaczyk-Basińska izražavaju nadu da će njihovi argumenti katalizirati kritički diskurs o implikacijama 'besmrtnosti' korisnika pri dizajnu interakcija između ljudi i umjetne inteligencije te istraživanja etike umjetne inteligencije.
Izvor: Science Alert
