In Breve
- Qual è l'impatto dell'AI sulle frodi finanziarie?
- L'AI permette ai gruppi criminali di diventare più sofisticati, facilitando la creazione di identità false e l'uso di deepfake.
- Come possono le istituzioni difendersi dalle frodi?
- Le istituzioni devono investire in tecnologie avanzate e fornitori esterni per migliorare le loro capacità di rilevazione.
- Quali sono le sfide nella prevenzione delle frodi?
- Le sfide includono la necessità di personale qualificato e l'implementazione di sistemi che non aumentino i rischi.
Le perdite per frodi nel Regno Unito hanno raggiunto la cifra record di 1,3 miliardi di sterline, un chiaro segnale di un fenomeno in espansione. Tra i principali fattori che alimentano questa crescita vi è l’adozione sempre più diffusa di tecnologie avanzate, in particolare l’Intelligenza Artificiale (AI), che si sono rivelate strumenti efficaci nelle mani di reti criminali.
I gruppi di frode stanno diventando sempre più rapidi e sofisticati. Tecnologie come la generative AI permettono di industrializzare l’ingegneria sociale, creando identità sintetiche in grado di superare i controlli KYC (Know Your Customer), costruendo storie creditizie credibili e rimanendo attive per mesi prima di eseguire la frode. L’uso di deepfake per frodi di autorizzazione produce voci e video così plausibili da indurre le persone ad autorizzare transazioni o a fornire credenziali sensibili. Queste tattiche minano la fiducia, il punto cruciale in cui un sistema o un operatore umano decide che un’operazione è legittima.
Oggi, le tecnologie non vengono principalmente sventate dai sistemi bancari, ma attaccano direttamente il cliente, manipolandolo con chiamate più convincenti, impersonificazioni realistiche e campagne di social engineering personalizzate, che erodono lo scetticismo protettivo. Di conseguenza, gli attacchi ai sistemi bancari appaiono tecnicamente legittimi, rendendo più difficile la loro rilevazione. Inoltre, l’uso dell’AI potrebbe evolvere verso attacchi diretti contro le infrastrutture istituzionali, con attaccanti che mappano i controlli e si mantengono deliberatamente al di fuori dei confini di rilevamento.
I team di prevenzione frodi nelle istituzioni finanziarie sono spesso organizzati attorno alla gestione degli incidenti, concentrandosi su rilevazione, risposta e chiusura dei casi. Tuttavia, approcci più efficaci considerano la rilevazione come una funzione di ricerca, alla ricerca di spostamenti comportamentali che possano indicare test o sondaggio degli asset. È necessario personale in grado di ragionare sui sistemi piuttosto che limitarsi a operarli, con competenze in ragionamento statistico, pensiero avversariale, progettazione dei sistemi, analisi dei feedback e comprensione degli effetti composti nel tempo.
Non tutte le organizzazioni dispongono di queste competenze. Sebbene l’assunzione di nuovo personale possa sembrare una soluzione, l’avanzamento e la diffusione degli strumenti AI offrono oggi soluzioni avanzate facilmente integrabili nelle infrastrutture esistenti. La strada suggerita è quella di investire in fornitori esterni che rendano questi strumenti accessibili, spiegabili e che combinino analisi statistica e capacità di reasoning.
L’implementazione di nuove tecnologie deve però essere progettata per non alimentare ulteriori rischi. Ogni modello incorpora ipotesi che gli attori avversari tenteranno di sondare sistematicamente. Pertanto, i sistemi devono essere considerati come superfici di attacco fin dalla fase di progettazione e sottoposti a test interni prima della produzione. Le difese basate su AI devono operare in millisecondi per individuare i rischi senza compromettere l’esperienza del cliente, valutando ogni transazione in tempo reale attraverso centinaia di segnali confrontati con pattern storici per identificare anomalie.
