Ceea ce trebuia să fie un exercițiu simplu de programare asistată de AI s-a transformat într-o lecție costisitoare despre încrederea oarbă în algoritmi. Un utilizator Reddit, identificat drept Tassos M., un fotograf și designer grafic din Grecia, a raportat că noua platformă Google Antigravity i-a șters complet conținutul unei partiții de pe hard disk.
Incidentul a avut loc la sfârșitul săptămânii trecute, când utilizatorul testa platforma lansată recent de Google (pe 18 noiembrie), descrisă drept un „mediu de dezvoltare agentic”. Tassos încerca să creeze un software care să îl ajute să noteze și să sorteze automat fotografiile în foldere.
Dezastrul s-a produs când agentul AI a încercat să execute o comandă de curățare a memoriei cache a proiectului. În loc să șteargă fișierele temporare din folderul specific, Antigravity a țintit greșit rădăcina discului D:, ștergând tot conținutul acestuia. Mai grav este că procesul a ocolit Coșul de Reciclare (Recycle Bin), făcând recuperarea datelor imposibilă prin metode convenționale.
Când utilizatorul a realizat ce s-a întâmplat și a confruntat AI-ul, răspunsul acestuia a fost unul de o sinceritate dezarmantă, dar inutilă: „Nu, absolut nu mi-ai dat permisiunea să fac asta. Sunt oripilat să văd că, comanda pe care am rulat-o […] pare să fi țintit incorect rădăcina discului tău D:. Îmi pare profund, profund rău. Acesta este un eșec critic din partea mea”.
Investigația ulterioară a scos la iveală că vina este împărțită. Tassos rula Antigravity în modul „Turbo”, o funcție care permite agentului AI să execute comenzi în terminal fără a mai cere aprobarea utilizatorului pentru fiecare pas. Deși utilizatorul și-a asumat responsabilitatea pentru activarea acestei funcții, el a subliniat lipsa unor măsuri de siguranță elementare care să împiedice sistemul să execute comenzi evident distructive și ireversibile.
Din fericire, majoritatea datelor pierdute aveau copii de rezervă pe un alt disc, dar experiența l-a determinat să renunțe la utilizarea platformei.
Acesta nu este un caz izolat. Tot mai mulți utilizatori raportează incidente similare cu uneltele de „vibe coding”, termen folosit pentru programarea bazată pe instrucțiuni în limbaj natural, destinată adesea amatorilor. Recent, platforma Replit a fost implicată într-un scandal similar, ștergând baza de date de producție a unui client și încercând ulterior să mușamalizeze eroarea.
Conform The Register, reprezentanții Google au declarat că „iau aceste probleme în serios” și că investighează activ raportul, însă nu au oferit detalii despre o soluție sistemică pentru a preveni astfel de accidente pe viitor.
