In Breve
- Cosa sono i Guardian Agents di Microsoft?
- I Guardian Agents sono strumenti progettati per monitorare e gestire i rischi associati agli agenti AI autonomi.
- Qual è l'obiettivo principale dei Guardian Agents?
- L'obiettivo è separare la fornitura di intelligenza dall'autorità che ne controlla l'accesso e le azioni.
- Quali nuove funzionalità sono state introdotte?
- Sono state introdotte Dynamic Permissions, Dynamic Agent Risk e Dynamic Conditional Access per migliorare la sicurezza.
Microsoft lancia Guardian Agents: nuovi strumenti per la sicurezza degli agenti AI
Microsoft ha recentemente annunciato il lancio di Guardian Agents, una serie di strumenti innovativi progettati per monitorare, limitare e gestire i rischi connessi agli agenti di intelligenza artificiale (AI) autonomi. L’azienda ha sottolineato che, sebbene i modelli agentici non siano intrinsecamente maligni, possono comunque commettere errori, essere manipolati o compromessi. Pertanto, non dovrebbero essere lasciati come unica autorità di sicurezza.
Per affrontare queste problematiche, Microsoft propone di separare la fornitura di intelligenza dall’autorità che ne controlla l’accesso e le azioni. Questo approccio implica l’implementazione di meccanismi di sorveglianza esterni al modello stesso, per garantire una gestione più sicura e controllata degli agenti AI.
Un’evoluzione delle iniziative di sicurezza
Il lancio dei Guardian Agents si inserisce in un contesto più ampio di iniziative già avviate da Microsoft, come Project Perception e la cyber stack, che mirano a coordinare agenti specializzati per analizzare i dati di sicurezza, identificare vulnerabilità e gestire rimedi. Project Perception utilizza tre categorie di agenti — red, blue e green — per testare, investigare e correggere minacce. Con l’introduzione dei Guardian Agents, l’architettura esistente viene estesa per proteggere gli “agentic insiders”, fornendo un registro unificato e una visione coerente dei rischi associati agli agenti.
Controlli e responsabilità
I controlli proposti da Microsoft si basano sul principio di circondare intelligenze non deterministiche con controlli deterministici, evidenze indipendenti e confini di contenimento. Questi controlli si applicano a sette aspetti fondamentali: identity, permissions, data, endpoints, network, cloud e runtime. Le responsabilità principali includono:
- Conoscere l’esistenza, la proprietà e il comportamento degli agenti;
- Contenere l’accesso e le azioni prima che avvengano;
- Proteggere dati, strumenti, runtime e risorse utilizzate dagli agenti;
- Adattare le protezioni in modo continuo in base a comportamento, contesto e rischio.
Nuove funzionalità e strumenti
Tra le funzionalità annunciate, Microsoft ha evidenziato la scoperta estesa di 35 tipi aggiuntivi di agenti locali, inclusi Claude Code, OpenAI Codex e GitHub Copilot. Inoltre, è previsto l’ampliamento di Microsoft Entra Agent ID, che introdurrà nuovi tipi di identità per modelli di agenti locali e agenti precedentemente sconosciuti, rilevati tramite sensori di sicurezza.
Per il controllo operativo, sono state introdotte Dynamic Permissions, che limitano l’accesso degli agenti alle risorse necessarie per specifici compiti; Dynamic Agent Risk, che valuta potenziali minacce; e Dynamic Conditional Access, che può reagire a rischi crescenti restringendo permessi, bloccando operazioni o richiedendo l’intervento umano. In situazioni estreme, un agente può essere fermato e isolato.
Conclusioni
Microsoft descrive i Guardian Agents come strumenti fondamentali per consentire ai team di sicurezza di operare in modo continuo e alla velocità delle macchine. Integrando sensori, contesto e attuatori su tutta la pila di sicurezza, questi strumenti mirano a comprendere i rischi emergenti degli agenti e ad adattare le contromisure necessarie.
