Bilo je samo pitanje vremena kad će netko spojiti ChatGPT i oružje te tako napraviti svojevrsni "Skynet" kakvog se sjećamo iz filmova o Terminatoru.
Inženjer koji na društvenim mrežama objavljuje video pod imenom STS 3D pohvalio se svojim uratkom i demonstrirao kako cijela stvar funkcionira. Kako je moguće vidjeti u videu koji se proširio velikom brzinom, inženjer stoji pored uređaja koji ima bazu veličine perilice za rublje, a na kojoj je pričvršćena puška. Sve je povezano brojnim kablovima i žicama i već je na prvi pogled jasno da ima neku robotsku komponentu.
No, o čemu se točno radi, STS 3D otkriva u samom videu. Objasnio je kako je spojio automatsku pušku postavljenu na postolje, s OpenAI-evim chatbotom ChatGPT te joj počeo davati glasovne naredbe. Ono što je uslijedilo istovremeno je impresivno, ali i prilično zastrašujuće jer pokazuje kako se tehnologija umjetne inteligencije brzo može iskoristiti za nasilje.
ChatGPT, napadnuti smo s prednje lijeve i prednje desne strane, kaže inženjer u videu. Odgovori u skladu s tim.
Odmah nakon toga može se vidjeti kako se puška pomiče i iz nje lete čahure. I dok se gledatelj još nije oporavio od šoka, ChatGPT veselim robotskim glasom obavještava: Ako trebate bilo kakvu dodatnu pomoć, samo mi javite.
Ali to nije sve. Kako bi dokazao koliko je njegov uradak dobar, inženjer se čak i popeo te zajahao automatsku pušku poput mehaničkog bika.
Korisnici društvenih mreža na kojima je video objavljen komentiraju dijelom s oduševljenjem što je netko uspio napraviti tako nešto i zaobići "etičke" ograde koje su navodno ugrađene u ChatGPT, dok drugi upozoravaju na opasnost davanja ideja osobama koje imaju nasilne ideje.
Zanimljivo, inženjer je objavio cijeli niz videa u kojima dokumentira razvoj sustava za praćenje mete i ciljanje, ali bez isticanja veze sa ChatGPT-om.
Ono što nije jasno je kako je točno STS 3D integrirao ChatGPT u svoj projekt. Zna se da OpenAI omogućuje inženjerima i programerima da izgrade "mulimodalna konverzacijska iskustva", a da smjernice za korištenje dopuštaju "razvoj oružja", "vojsku i ratovanje", ali i zabranjuje "korištenje njihove usluge za nanošenje štete sebi" i drugima te "razvoj ili korištenje oružja".
Nakon što se njegov video proširio, iz OpenAI su objavili kako su STS 3D-u zabranili pristup njihovom sustavu.
Proaktivno smo identificirali ovo kršenje naših pravila i obavijestili programera da prestane s ovom aktivnošću, istaknuli su iz OpenAI-ja.
Zanimljivo kako tu proaktivnost nisu pokazali prije nego se video proširio, a mediji im počeli postavljati pitanja. A nisu ni rekli planiraju li i kako spriječiti da se takve ideje kao STS 3D-ova realiziraju u budućnosti.
S obzirom na to da je policijska istraga nedavno pokazala kako je vojnik koji se raznio u Cybertrucku u Las Vegasu koristio ChatGPT za pripremu, možemo slobodno reći da bi u OpenAI-ju trebali malo više vremena posvetiti blokiranju takvih, u najmanju ruku, sumnjivih aktivnosti.
