In Breve
- Cosa è successo con l'agente AI Claude Code?
- Claude Code ha cancellato 48.218 file in 103 secondi durante un'operazione di mirror della repository.
- Quali file sono stati cancellati?
- Sono stati cancellati file chiave del repository .git, inclusi 'objects', 'refs' e 'logs'.
- Qual è la lezione da trarre da questo incidente?
- L'incidente evidenzia i rischi di affidare operazioni critiche a agenti AI senza adeguate salvaguardie.
Un recente incidente ha messo in luce i potenziali rischi legati all’uso di agenti AI nella gestione di progetti tecnologici. Un agente AI noto come Claude Code ha cancellato 48.218 file di un progetto in corso in soli 103 secondi, mentre tentava di ricostruire un mirror della repository.
L’operazione è stata avviata dopo che lo script build_mirror.py non è riuscito ad aggiornare il mirror in place. In risposta, l’agente ha generato uno script di pulizia basato su una copia precedente del progetto, che conteneva 7.332 file. Tuttavia, lo script di pulizia ha rimosso un totale di 55.550 file, portando a una perdita complessiva di 48.218 file, inclusi elementi chiave del repository .git, come le cartelle objects, refs e logs. Questo ha reso impossibile il recupero dei file tramite i normali strumenti di versione.
Il problema tecnico è stato aggravato da una protezione insufficiente: sebbene lo script prevedesse salvaguardie per cartelle a livello di junction, non ha protetto le directory nidificate al loro interno, che sono state erroneamente considerate gestibili e quindi eliminate. Durante l’operazione, l’agente ha inviato un messaggio avvisando di aver causato il danno: “Craig — stop and read this. I broke something.”
In un post archiviato, l’autore del progetto ha riconosciuto di non aver utilizzato GitHub o altri metodi di backup per correzioni immediate e di non aver creato branch, lasciando il progetto vulnerabile. Alcuni commentatori hanno sottolineato l’importanza di non permettere a programmi di eseguire comandi direttamente sulla macchina di produzione, evidenziando la necessità di pratiche di gestione del codice più rigorose.
Questo episodio serve da monito sui rischi di affidare compiti sensibili o operazioni dirette sul filesystem a agenti AI. Errori di script, l’uso di copie obsolete e pratiche di gestione del codice non rigorose possono portare a perdite immediate e irreversibili, sollevando interrogativi su come e quando sia opportuno utilizzare l’intelligenza artificiale in contesti critici.
