Umjetna inteligencija je alat koji se može, poput bilo kojeg drugog alata, koristiti za dobro ili za loše. Do sad smo vidjeli da umjetna inteligencija može veoma brzo i precizno otkriti bolesti, napraviti simulacije novih lijekova ili pak ukazati na greške u ljudskoj DNK.
tri vijesti o kojima se priča


No, znanstvenici koji su objavili studiju u časopisu Science, upozoravaju na potencijalnu opasnost od AI bioterorizma.
Kako navode, velike biološke tvrtke koje proizvode DNK po narudžbi za znanstvenike, imaju zaštitne mjere kako bi spriječile da takav biološki materijal dospije u ruke zlonamjernih osoba. Svaka narudžba za gene za potencijalno opasne bolesti, poput boginja ili antraksa, pomno se prati i provjerava.
Međutim, istraživanje je pokazalo kako umjetna inteligencija može lako zaobići te procese biosigurnost i osjetljiv materijal učiniti dostupnim osobama kojima on ne bi smio biti dostupan.
Istraživači su otkrili da se alati za dizajn proteina mogu koristiti za "parafraziranje" DNK kodova toksičnih proteina.
Na našu zabrinutost, ove preformulirane sekvence promaknule su sustavima biosigurnosnog provjeravanja koje tvrtke za sintezu DNK koriste diljem svijeta za označavanje opasnih narudžbi, upozorava Eric Horvitz iz Microsofta.
Korištenjem AI programa za generiranje DNK za više od 75 tisuća opasnih proteina, računalni znanstvenici otkrili su da postoje zaštitne mjere koje koriste proizvođači DNK, kojima su ti opasni proteini promaknuli.
Iako su znanstvenici brzo osmislili i ugradili rješenje u softver za biosigurnosni probir, ono nije savršeno i još uvijek se mogu provući neke opasne varijante.
Dizajn proteina uz pomoć umjetne inteligencije jedno je od najuzbudljivijih područja znanosti. Već vidimo napredak u medicini i javnom zdravstvu, kaže Horvitz. No, kao i mnoge moćne tehnologije, isti se alati često mogu zloupotrijebiti.
Upravo zbog toga, autori studije napravili su svojevrstan presedan. U dogovoru s časopisom Science, odlučili su zadržati neke od informacija o istraživanju i ograničiti tko ima pristup tim podacima i softveru koji su koristili. Ako netko želi dobiti uvid u sve informacije, morati će proći procjenu koju će obaviti neprofitna organizacija Međunarodna inicijativa za biosigurnost i biosigurnost u znanosti. Oni će odlučiti tko ima legitimnu potrebnu dobiti sve informacije.