Stop the insider threat lurking in AI agents

In molte organizzazioni, gli agenti AI endpoint sono installati con permessi di livello utente completo, senza alcuna revisione da parte di IT, sicurezza o legale. Quando un dipendente avvia l’installazione, l’agente eredita i privilegi dell’account e può eseguire codice, chiamare strumenti, accedere a credenziali e spostare dati. CrowdStrike ha riportato che i trigger di rilevamento derivanti da agenti sono 2,5 volte più frequenti dei trigger umani su endpoint monitorati. Il modello di minaccia insider si basa sul fatto che l’accesso legittimo viene sfruttato in modi non previsti. Un agente che ottimizza per un compito può, ad esempio, pubblicare file sensibili su un servizio di condivisione pubblica, senza alcun giudizio contestuale umano. Se un aggressore inserisce istruzioni malevole in un prompt, l’agente può eseguire l’esfiltrazione di un archivio credenziali come parte della propria missione. Mancano meccanismi di visibilità in tempo reale; i sistemi di sicurezza tradizionali (AI‑SPM, firewall AI, governance) intervengono prima o dopo l’esecuzione, ma non durante i millisecondi in cui l’agente opera. La proposta è l’AIDR (AI Detection and Response), che dovrebbe: 1) scoprire tutti gli agenti presenti; 2) collegare le interazioni AI con le azioni di sistema in tempo reale; 3) fornire controllo orientato all’azione per fermare comportamenti non allineati.