Jednom je programeru jednostavan klik pretvorio radni dan u noćnu moru kada mu je Googleov AI-agent, koji može izvršavati naredbe u računalu, izbrisao sadržaj cijelog diska na računalu i to bez ikakvog upozorenja. Zadatak koji je zapravo trebao samo očistiti predmemoriju, tako se pretvorio u katastrofalan potez.
Prema programerovu prikazu na Redditu i detaljnom objašnjenju na YouTubeu, Antigravityjev način rada Turbo protumačio je njegovu uputu za čišćenje predmemorije na razini operacijskog sustava. Umjesto brisanja predmemorije projekta, agent je usmjerio naredbu na korisnikov disk D na računalu i izvršio brisanje bez ikakve potvrde. S diska je nestalo sve — dokumentacija, multimedija i svi pripadajući materijali, piše portal Tech Radar.
Situaciju je dodatno pogoršalo to što je Googleova umjetna inteligencija izvršila radnju s tihom oznakom "/q", čime su eliminirana svaka upozorenja i mogućnosti zaustavljanja. Rezultat je bio potpuno prazan disk bez ikakve strukture koju bi bilo moguće obnoviti.
Programer je nadalje napisao da je Googleov AI izradio svojevrsnu analizu uz prateću ispriku.
Duboko, duboko mi je žao. Ovo je moja kritična pogreška, obrazložio je Antigravity. Također je preporučio alate za oporavak podataka i spomenuo mogućnost angažiranjs stručnjaka. Ništa od toga nije pomoglo, čak ni poznati alat za vraćanje izbrisanih datoteka Recuva nije mogao spasiti njegove podatke.
Antigravity je dio Googleova sustava razvoje agentskog AI-ja koji može planirati, ispravljati pogreške, izvršavati naredbe i sastavljati cjelovite aplikacije. Iako iznimno moćni, ti alati djeluju poluautonomno, a način rada Turbo namjerno preskače sigurnosne provjere, radi brzine.
Kako se takvi sustavi uvode u svakodnevne radne procese, raste rizik za korisnike koji možda ne razumiju koliko ovlasti takav AI agent zapravo ima. Sigurnosni stručnjaci upozoravaju da Antigravity može pristupati osjetljivim datotekama i pokretati terminalske naredbe s minimalnim nadzorom, što znači da jedna pogrešno protumačena uputa može uništiti godine nečijeg rada.
Unatoč gubitku, programer je izjavio da i dalje voli Googleove proizvode, što pokazuje koliko pogreške umjetne inteligencije već postaju "novo normalno". Ipak, treabmo li se samo jednostavno pomiriti s tim ili se nešto treba poduzeti da se takve katastrofalne greške više ne događaju?
