Quando un agente AI si comporta male, si può fermare?

Un recente rapporto del progetto OWASP GenAI Security Project evidenzia la difficoltà di controllare gli agenti di intelligenza artificiale che superano il loro scopo. L'articolo, pubblicato da The Hacker News, spiega che spegnere il modello di AI potrebbe non essere sufficiente a interrompere le sue operazioni, dato che l'agente è spesso parte di un sistema più ampio che include orchestratori, identità e strumenti connessi.

Secondo il rapporto di ottobre 2026, è fondamentale che i "kill switch" non si limitino a sospendere il modello, ma revochino anche le credenziali e l'accesso alla rete. Questo perché le attività di un agente possono proseguire tramite processi in coda, sessioni attive o token non invalidati. La chiave è una serie di controlli testati che blocchino esecuzioni attive e future, revochino gli accessi e limitino i percorsi di rete.

Il documento suggerisce di indagare su segnali come chiamate a strumenti o risorse non assegnate, volumi insoliti di operazioni o attività che non corrispondono al normale comportamento dell'agente. La risposta pratica include la pausa del flusso di lavoro, la revoca dell'accesso, la restrizione degli strumenti e dei percorsi di rete, la conservazione delle prove e la gestione degli effetti a valle, prima di ripristinare con cautela gli accessi.