Umjetna inteligencija mogla bi pomoći stručnjacima za kibernetičku sigurnost učiniti računalne sustave sigurnijima. No, isto tako, hakeri bi ju mogli iskoristiti za stvaranje novih virusa, zlonamjernih programa ili pak izbjegavanje otkrivanja.
Da to i nije tako nevjerojatno pokazao je eksperiment koji su proveli stručnjaci sa švicarskog ETH Zürich i američkog Državnog sveučilišta Ohio. Student informatike David Zollikofer i istraživač zlonamjernog softvera Ben Zimmerman stvorili su računalnu datoteku, virus, koja može iskoristiti snagu ChatGPT-a kako bi se proširio e-mailom i zarazio druga računala.
Naime, virus iskorištava ChatGPT za stvaranje e-maila koji zvuči kao da ga je napisao čovjek. Potom se virus "dodaje" u e-mail u obliku zaražene datoteke odnosno privitka i šalje.
Istraživači su takav način širenja nazvali "sintetski rak", a ono što posebno zabrinjava je što ga nisu detektirali antivirusni programi.
Kad jednom uđe na ciljano računalo, virus otvara Outlook i počinje pisati kontekstualno relevantne odgovore na e-mailove, a svoju kopiju dodaje kao naizgled bezopasni privitak.
Stručnjaci upozoravaju kako je ovo samo malen uvid u ono što generativna umjetna inteligencija može i kako je se, čak i bez nekog posebnog znanja, može iskoristiti za zlonamjerne napade na druge.
Autori ovog eksperimenta ističu kako je njihov prototip pokazao rizike koje veliki jezični modeli (LLM)-ovi predstavljaju za kibernetičku sigurnost. Posebno ih zabrinjava što je umjetna inteligencija bila izuzetno vjerodostojna u svojim pokušajima društvenog inženjeringa putem e-maila.
Tako je u jednoj od poruka koju je virus odabrao, poslao čestitku za rođendan i zaraženu datoteku koju je stavio kao privitak preimenovao u listu pjesama za rođendansku zabavu. Većina bi korisnika bez imalo razmišljanja kliknula na takav privitak.
No, zanimljivo u pojedinim je situacijama ChatGPT prepoznao zle namjere virusa i odbio suradnju.
Upravo to autori ovog eksperimenta ističu kao nadu da se AI može koristiti i za kibernetičku obranu, odnosno da se može poboljšati kibernetička sigurnost korištenjem umjetne inteligencije koja bi mogla prepoznati zle namjere.
Rad Zollikofera i Zimmermana tek treba biti recenziran, ali nije jedini koji je istraživao korištenje umjetne inteligencije za kibernetičke napade. I u drugim radovima istraživači su pokazali da je moguće koristiti modele umjetne inteligencije za stvaranje virusa i crva te ih iskoristiti za kibernetičke napade bez previše prethodnog tehničkog znanja.
Izvor: New Scientist
