In Breve
- Qual è il rischio principale associato al pulsante 'Approvo'?
- Il rischio principale è la mancanza di responsabilità e trasparenza nelle decisioni degli agenti AI.
- Come possono essere gestiti gli agenti AI?
- Gli agenti AI devono essere trattati come entità con identità, richiedendo credenziali e controlli di governance.
- Qual è l'importanza della supervisione umana negli agenti AI?
- La supervisione umana è cruciale per garantire che le decisioni autonome siano allineate con gli obiettivi organizzativi.
Negli ultimi anni, l’adozione di sistemi di remediation automatica ha rivoluzionato il modo in cui le aziende gestiscono le reti. Questi sistemi possono risolvere problemi durante la notte senza alcuna notifica, lasciando agli operatori umani il compito di verificare le azioni solo in un secondo momento. Questo approccio, noto come Human-on-the-Loop, presenta però delle insidie. In scenari meno controllati, agenti improvvisati possono effettuare correzioni senza fornire tracce chiare delle decisioni che hanno portato a tali interventi. Di conseguenza, i log possono rivelare solo il “cosa” è stato fatto, ma non il “perché” o le modifiche collaterali apportate per raggiungere l’obiettivo.
Markus Nispel, CTO EMEA e Head of AI Engineering di Extreme Networks, avverte che senza vincoli adeguati, la delega progressiva a sistemi agentici può portare a livelli di autonomia non autorizzati. Ricerche recenti indicano che il 57% dei responsabili IT prevede di eliminare la supervisione umana entro un anno, mentre il 79% considera già gli agenti AI come “utenti” che necessitano di gestione delle identità e controlli di governance.
È fondamentale trattare gli agenti operanti sulle reti come entità dotate di identità. Questi agenti richiedono credenziali, politiche, limiti operativi e audit trail, analogamente agli operatori umani. Molte infrastrutture di gestione degli accessi sono state progettate per le persone, e applicare soluzioni informali agli agenti può generare accessi non autorizzati e rischi non quantificati. Per mitigare tali rischi, ogni agente dovrebbe essere configurato come un’entità principale con permessi limitati, accesso temporizzato e percorsi di revoca chiari, accompagnati da un registro completo delle azioni e delle motivazioni alla base delle scelte effettuate.
La fiducia nell’autonomia degli agenti deve essere progressiva. Gli agenti dovrebbero iniziare in modalità suggerimento e guadagnare capacità operative sulla base di prove e limiti definiti, piuttosto che ricevere autonomie totali sin dall’inizio. Con l’aumento del volume e della complessità delle decisioni autonome, è essenziale che la supervisione umana sia supportata da infrastrutture che integrino identità, enforcement delle policy, osservabilità e responsabilità, garantendo così trasparenza e allineamento con gli obiettivi organizzativi.
Nei sistemi multi-agente, la complessità aumenta ulteriormente. Una catena di agenti che si scambiano informazioni rende difficile ricostruire gli eventi rispetto a un singolo agente, poiché è necessario comprendere cosa ciascun agente conoscesse oltre a ciò che ha fatto. L’implementazione di permessi rigorosi, controlli d’identità e audit trail è quindi cruciale per distinguere le implementazioni resilienti da quelle che espongono l’organizzazione a rischi latenti.
