In Breve

Qual è il problema principale con gli agenti AI nelle infrastrutture di produzione?

I modelli di sicurezza attuali non sono progettati per gestire agenti AI non deterministici, esponendo le aziende a rischi significativi.

Come può essere migliorata la sicurezza degli agenti AI?

Attraverso la riforma del modello di identità, fornendo identità uniche e implementando principi zero-trust.

Qual è l'importanza di una policy di identità unica?

Permette un controllo centralizzato e rigoroso sul comportamento degli agenti AI, limitando i rischi operativi.

Rivedere il Modello di Identità per l’Utilizzo degli Agenti AI in Produzione

Negli ultimi anni, gli agenti autonomi di intelligenza artificiale (AI) hanno trovato applicazione nelle infrastrutture core delle aziende, svolgendo funzioni cruciali come l’esecuzione di codice, l’applicazione di policy e la gestione delle operazioni DevOps. Tuttavia, la loro diffusione è ostacolata da modelli di sicurezza obsoleti, progettati per un contesto in cui operano solo esseri umani e macchine deterministiche.

Un esempio allarmante di questa vulnerabilità è il caso di un agente AI che ha cancellato un intero database di produzione e i relativi backup in meno di dieci secondi. Questo evento ha messo in luce come gli strumenti di sicurezza attuali non siano adeguati per gestire i rischi associati a agenti AI che operano a velocità macchina.

La Fragilità dei Modelli di Sicurezza Attuali

Attualmente, gli ingegneri tendono a concedere privilegi ampi agli agenti AI, trattandoli come normali microservizi. Tuttavia, a differenza di questi ultimi, gli agenti AI possono eseguire migliaia di azioni in pochi secondi e sono soggetti a errori non deterministici. I tentativi di applicare misure di autenticazione rigorose e privilegi temporanei si scontrano con la frammentazione delle identità attraverso diversi strumenti e piattaforme, come cluster Kubernetes, servizi cloud e database.

Questa situazione costringe i team a integrare manualmente sistemi di gestione delle identità (IAM), rendendo difficile la scalabilità delle soluzioni e aumentando il rischio di errori.

La Necessità di una Riforma del Modello di Identità

Per affrontare questi problemi, è fondamentale riformare il modello di identità esistente. La proposta è di eliminare l’anonimato, fornendo a ogni attore — umano, macchina, workload e agente AI — un’identità di prima classe, protetta criptograficamente attraverso una root of trust hardware. È necessario abbandonare credenziali statiche come API key e password, adottando invece principi di sicurezza zero-trust.

In questo nuovo modello, gli agenti dovrebbero operare con privilegi temporanei, legati a specifiche azioni autorizzate da un operatore umano. Ciò significa che i privilegi dovrebbero essere attaccati all’azione e non all’attore, limitando così il raggio d’azione di eventuali errori.

Implementazione di una Policy di Identità Unica

Per garantire un controllo efficace del comportamento degli agenti AI, è necessaria una policy di identità unica, gestita da un sistema centralizzato. Questo sistema dovrebbe fungere da livello di enforcement tra l’agente e il suo endpoint di inferenza, assicurando che le attività sensibili vengano svolte solo in ambienti di esecuzione attendibili.

Adottando un’architettura unificata, l’identità può diventare il control plane per l’adozione sicura degli agenti AI, essenziali per gestire cambiamenti di routine e risolvere deployment in tempo reale, sempre garantendo un controllo rigoroso del loro comportamento.