In Breve
- Che cos'è AI Scout di NordLayer?
- AI Scout è uno strumento che monitora l'uso di servizi di intelligenza artificiale in azienda, identificando quelli autorizzati e non autorizzati.
- Quali sono i rischi associati allo shadow AI?
- Lo shadow AI può aumentare significativamente i costi delle violazioni di dati, con un impatto medio di circa 400.000 dollari.
- Come funziona il monitoraggio di AI Scout?
- AI Scout monitora le interazioni su browser e desktop, ispezionando i prompt e bloccando contenuti sensibili prima della trasmissione.
NordLayer ha recentemente introdotto AI Scout, un innovativo strumento progettato per fornire alle aziende una visibilità completa sull’uso di servizi di intelligenza artificiale (AI) da parte dei dipendenti. Questo strumento si propone di affrontare i rischi legati alla perdita di dati associati a strumenti non autorizzati, un problema sempre più rilevante nel contesto lavorativo attuale.
AI Scout si distingue per la sua capacità di monitorare le interazioni degli utenti su browser e desktop, identificando i servizi AI autorizzati e non autorizzati. Inoltre, misura l’utilizzo reale dei servizi rispetto alle sottoscrizioni acquistate, stimando anche il consumo di token tra i vari modelli linguistici impiegati.
Una delle caratteristiche principali di AI Scout è rappresentata dai controlli progettati per ispezionare i prompt e bloccare o redigere contenuti sensibili prima della loro trasmissione a servizi esterni. Questi controlli, attivi anche durante l’inserimento di informazioni da parte dei dipendenti, garantiscono un’ulteriore revisione per prevenire la divulgazione di dati critici.
Il monitoraggio di AI Scout si estende oltre i tradizionali chatbot, includendo anche agenti AI e le loro connessioni tecniche con i servizi aziendali. Gli amministratori hanno la possibilità di ispezionare l’infrastruttura MCP (Managed Cloud Platform) collegata ad agenti di programmazione, valutando così le capacità operative di questi sistemi.
Questa iniziativa di NordLayer risponde a una crescente preoccupazione: l’adozione dell’AI sul posto di lavoro sta aumentando rapidamente, ma insieme a essa emerge il fenomeno dello shadow AI, in cui i dipendenti utilizzano servizi gratuiti o non approvati. Secondo recenti indagini, il 59% delle aziende spende oltre 1 milione di dollari all’anno in tecnologie AI, mentre il 42% dei dipendenti utilizza sistemi AI ufficialmente approvati, con un preoccupante 70% che ricorre a modelli gratuiti.
Le violazioni legate allo shadow AI possono comportare un aumento del costo medio globale di una violazione di sicurezza di circa 400.000 dollari, su un valore medio di 4,99 milioni di dollari. In questo contesto, l’AI DLP (Data Loss Prevention) di AI Scout è progettata per ispezionare i prompt e controllarli prima dell’invio, riducendo il rischio di immissione di dati sensibili.
La rapida crescita di nuovi modelli linguistici richiede strumenti di telemetria in grado di raccogliere informazioni sull’utilizzo dell’AI, sia autorizzato che non. AI Scout si propone quindi come una soluzione efficace per le aziende che desiderano mantenere il controllo sull’uso dei servizi AI, garantendo al contempo la sicurezza dei dati e la conformità alle normative.
