In Breve
- Qual è il principale rischio associato all'uso di agenti AI nella sicurezza?
- Il principale rischio è che le attestazioni di controllo possano riflettere solo un'apparenza di efficacia, senza garantire reali misure di sicurezza.
- Quanto tempo dedicano annualmente le organizzazioni britanniche a compiti di compliance?
- Le organizzazioni segnalano circa 12 settimane all'anno dedicate a compiti di compliance e 9 settimane a revisioni dei fornitori.
- Quali misure possono essere adottate per migliorare la governance degli agenti AI?
- È fondamentale creare un inventario dei sistemi AI, limitare gli accessi, e garantire supervisione umana nelle operazioni critiche.
Negli ultimi anni, le organizzazioni hanno iniziato a fare ampio uso di agenti AI per attestare i controlli di sicurezza. Tuttavia, la governance di questi strumenti non ha tenuto il passo con la loro adozione, creando un rischio significativo: le attestazioni potrebbero riflettere solo l’apparenza di un controllo efficace, piuttosto che la loro reale efficacia.
I team di sicurezza si trovano spesso a dover gestire attività di prova episodiche e manuali, mentre piani di risposta agli incidenti rimangono frequentemente non testati. Inoltre, questionari fornitori vengono compilati una sola volta e poi dimenticati, mentre i rischi concreti continuano a mutare sotto traccia. Secondo un sondaggio condotto nel Regno Unito, oltre la metà dei responsabili della sicurezza ritiene che le minacce guidate dall’AI evolvano più rapidamente di quanto i loro team possano rispondere. Inoltre, l’80% degli intervistati dichiara di utilizzare o pianificare di utilizzare agenti AI come parte della loro strategia di sicurezza.
Nonostante l’adozione dell’AI, il lavoro di compliance rimane prevalentemente manuale. Le organizzazioni britanniche segnalano di dedicare circa 12 settimane all’anno a compiti di compliance e altre 9 settimane a revisioni dei fornitori. Per affrontare questo divario, è fondamentale garantire visibilità e governance continua. Ciò implica la creazione di un inventario completo dei sistemi AI e delle API utilizzate, l’identificazione dell’AI integrata nei servizi SaaS e il controllo del cosiddetto “shadow AI”. Ogni agente deve essere trattato come un nuovo attore con un’identità propria e accessi limitati al minimo necessario, evitando l’uso di account di servizio condivisi con privilegi estesi.
Prima del deploy, è essenziale definire chiaramente quali dati può accedere l’agente, quali informazioni può visualizzare, dove è necessaria l’approvazione umana e come annullare le azioni. Operazioni ad alto impatto, come modifiche agli accessi, cancellazioni di dati o trasferimenti di fondi, devono essere soggette a una supervisione umana significativa. I controlli devono essere applicati continuamente attraverso meccanismi runtime, come least-privilege, permessi just-in-time, segmentazione, interruttori di emergenza e containment automatico, per ridurre il raggio d’azione in caso di errore.
La crescente pressione regolatoria, con provvedimenti come il Cyber Security and Resilience Bill e le regole di operational resilience della FCA, aumenta il rischio che la compliance si trasformi in una mera facciata di sicurezza, nota anche come “security theatre”. L’automazione potrebbe contribuire ad accelerare questo fenomeno se rimane focalizzata su checklist statiche.
La risposta a questa sfida è spostare l’obiettivo: rendere la compliance una conseguenza di pratiche di sicurezza efficaci e dinamiche, armonizzando segnali di rischio, controlli e evidenze in tempo reale. L’AI si configura così sia come un nuovo fattore di rischio che come uno strumento per gestire altri rischi. Programmi di governance efficaci possono rendere il percorso approvato più semplice rispetto a quello in ombra, mantenendo la supervisione umana dove è più critica. Gli agenti AI devono essere in grado di documentare a cosa hanno accesso, perché e chi ha autorizzato le loro azioni.
