Brojni su načini na koje se umjetna inteligencija može zlouporabiti, a jedan od takvih opasnih načina njezina korištenja, prema riječima zamjenika osoblja Bijele kuće Brucea Reeda, jest - kloniranje glasova. Ta relativno nova tehnologija je, prema njegovim riječima, "zastrašujuće dobra", a zastrašujući je i njezin potencijal kada su u pitanju prijevare i manipulacija.
Naše društvo još nije svjesno koliko bi pojam savršenih lažnih glasova mogao preokrenuti naše živote. Nitko se neće javiti na telefon ako nije siguran je li glas s druge strane stvaran ili lažan, opisao je što se može dogoditi u budućnosti u jednom intervjuu Reed. Komentirao je da zbog toga ne spava noćima. No takve situacije nisu samo budućnost i ono što nas čeka tijekom sljedećih mjeseci i godina.
Naime, ove godine već je zabilježeno više takvih iznimno uvjerljivih prijevara korištenjem umjetne inteligencije. Iz Savezne trgovinske komisije u SAD-u u ožujku ove godine upozorili su na prevarante koji koriste ovu tehnologiju za tzv. obiteljske prijevare u kojima kontaktiraju osobe koristeći glas njihove rodbine u kojima tvrde da su u nekakvoj nevolji. U jednom takvom slučaju majka iz Arizone primila je telefonski poziv za koji se činilo da dolazi od njezine kćeri koja joj je u šoku rekla da je oteta. To je u potpunosti bio njezin glas, objasnila je naknadno medijima, no u stvarnosti to je bio računalno generirani glas prevaranta koji je koristio AI za kloniranje glasa.
Posebnim AI programima dovoljan je samo uzorak od nekoliko sekundi nečijega glasa kako bi ga mogli gotovo pa savršeno klonirati. Prema jednom istraživanju sigurnosne kompanije McAfee, samo tri do četiri sekunde nečijeg glasa dovoljne su da se glas klonira s točnošću od 85 posto. A jednom kada se glas uspješno klonira, samo je na mašti prevaranata i kriminalaca na koji ga način mogu iskoristiti.
No ne koriste ovu tehnologiju samo prevaranti i kriminalci već i - političari. Kako prenose na Business Insideru, gradonačelnik New Yorka Eric Adams koristio je program za kloniranje glasa kako bi svoje poruke poslao građanima na različitim jezicima poput mandarinskog, španjolskog i drugih. On naziva građane i u snimljenim porukama obraća im se na njihovim jezicima jer smatra da će tako njegova poruka doći do većeg broja građana. Zbog takvog načina komunikacije s građanima rekao je kako mu ljudi prilaze na ulici i pitaju ga zna li on doista mandarinski.
Kao i u brojnim drugim slučajevima, sama tehnologija kloniranja glasova nije problematična, već najveći problem leži u njezinoj zlouporabi i korištenju u različitim prijevarama.
