In Breve
- Qual è l'ammontare delle perdite per frodi nel Regno Unito?
- Le perdite per frodi nel Regno Unito hanno raggiunto 1,3 miliardi di sterline.
- Come l'intelligenza artificiale è utilizzata dai criminali?
- I criminali utilizzano l'AI per creare identità sintetiche e attuare frodi tramite deepfake.
- Quali misure devono adottare le istituzioni finanziarie?
- Le istituzioni devono investire in strumenti AI e formare personale esperto per migliorare la prevenzione delle frodi.
Le frodi finanziarie stanno assumendo proporzioni sempre più preoccupanti. Nel Regno Unito, le perdite causate da tali attività hanno raggiunto 1,3 miliardi di sterline, un chiaro segnale di un fenomeno in espansione. Uno dei principali fattori che contribuiscono a questa crescita è l’adozione sempre più diffusa di tecnologie avanzate, in particolare l’intelligenza artificiale (AI), che si è rivelata un’arma potente nelle mani di reti criminali.
I gruppi di frode stanno diventando sempre più rapidi e sofisticati. Tecnologie come la generative AI consentono di industrializzare l’ingegneria sociale, creando identità sintetiche composite in grado di superare i controlli KYC (Know Your Customer). Inoltre, queste tecnologie permettono di costruire storie creditizie credibili e di rimanere attive per mesi prima di eseguire la frode. L’uso di deepfake per frodi di autorizzazione ha reso possibile la creazione di voci e video così plausibili da indurre le persone a autorizzare transazioni o a fornire le proprie credenziali.
Queste tattiche mirano a minare la fiducia, un elemento cruciale nel determinare la legittimità di un’operazione da parte di un sistema o di un operatore umano. Le tecnologie attuali non vengono principalmente contrastate dai sistemi bancari, ma piuttosto attaccano direttamente i clienti, manipolandoli con chiamate convincenti, impersonificazioni realistiche e campagne di social engineering personalizzate. Ciò erode lo scetticismo protettivo, rendendo più difficile la rilevazione delle frodi, che si presentano con caratteristiche tecniche di legittimità.
Parallelamente, l’uso dell’AI potrebbe evolvere verso attacchi diretti contro le infrastrutture istituzionali, con gli attaccanti che mappano i controlli e si mantengono deliberatamente al di fuori dei confini di rilevamento. In questo contesto, i team di prevenzione frodi nelle istituzioni finanziarie sono spesso organizzati attorno alla gestione degli incidenti: rilevare, rispondere e chiudere il caso. Tuttavia, approcci più efficaci considerano la rilevazione come una funzione di ricerca, volta a identificare spostamenti comportamentali che possano indicare test o sondaggio degli asset.
È fondamentale disporre di personale in grado di ragionare sui sistemi piuttosto che limitarsi a operarli, con competenze in ragionamento statistico, pensiero adversariale, progettazione dei sistemi, analisi dei feedback e comprensione degli effetti composti nel tempo. Purtroppo, non tutte le organizzazioni possiedono queste competenze. Sebbene l’assunzione di esperti possa sembrare una soluzione, l’evoluzione e la diffusione degli strumenti AI offrono soluzioni avanzate che possono essere facilmente integrate nelle infrastrutture esistenti.
La strada suggerita è quella di investire in fornitori esterni che rendano questi strumenti accessibili e spiegabili, combinando analisi statistica e capacità di reasoning. Tuttavia, l’implementazione di nuove tecnologie deve essere progettata in modo da non alimentare ulteriori rischi. Ogni modello ha ipotesi incorporate che gli attori avversari tenteranno di sondare sistematicamente. Pertanto, i sistemi devono essere considerati come superfici di attacco fin dalla progettazione e sottoposti a test interni prima della produzione.
Le difese basate su AI devono operare in millisecondi per individuare il rischio senza compromettere l’esperienza del cliente. Questo richiede la valutazione di ogni transazione in tempo reale, utilizzando centinaia di segnali confrontati con pattern storici per identificare anomalie. Solo così le istituzioni possono sperare di mantenere un livello adeguato di sicurezza in un panorama in continua evoluzione.
