Super AML

Explainability, bias algoritmico e responsabilità del soggetto obbligato nell’era dei modelli predittivi

L’intelligenza artificiale sta riscrivendo le regole del contrasto al riciclaggio. Non si tratta di un’evoluzione incrementale: è un cambiamento di paradigma. I sistemi di transaction monitoring basati su regole statiche – soglie fisse, combinazioni predefinite di indicatori – cedono il passo a modelli predittivi capaci di elaborare miliardi di transazioni, individuare pattern nascosti, collegare soggetti apparentemente non correlati attraverso reti di relazioni complesse. Il tutto in tempo reale, con una granularità che nessun analista umano potrebbe replicare.

Eppure, proprio mentre la tecnologia offre strumenti di analisi senza precedenti, il quadro regolamentare solleva domande che la tecnologia da sola non può rispondere: chi decide che un’operazione è sospetta? Chi risponde se l’algoritmo sbaglia? Come si garantisce che un modello addestrato su dati storici non replichi – o amplifichi – distorsioni sistemiche?

Questo articolo esplora le tre tensioni fondamentali che caratterizzano l’impiego dell’AI nei presidi antiriciclaggio: la sfida della spiegabilità, il rischio del bias algoritmico e l’irrinunciabilità della responsabilità umana. Con un occhio al nuovo contesto normativo che, dal Regolamento UE 2024/1624 alle ultime disposizioni di Banca d’Italia, delinea con crescente precisione i confini entro cui questi strumenti devono operare.

Dalla regola al modello predittivo: cosa cambia davvero

Per anni, il cuore del transaction monitoring è stato una logica binaria: se la transazione supera la soglia X, oppure presenta la combinazione di caratteristiche Y+Z, viene posta alla valutazione di un operatore. Efficace per le anomalie più evidenti, del tutto cieco di fronte a schemi sofisticati che, per definizione, sono costruiti proprio per eludere quelle regole.

I modelli di machine learning operano in modo fondamentalmente diverso. Anziché applicare regole predefinite, apprendono dalla massa dei dati: identificano correlazioni statistiche che nessun esperto avrebbe esplicitato, riconoscono variazioni sottili nel comportamento transazionale di un cliente rispetto alla sua baseline storica, mappano reti di relazioni tra conti, soggetti e controparti. La network analysis, in particolare, consente di visualizzare graficamente collegamenti tra entità apparentemente distinte, portando alla luce strutture di intermediazione tipiche dell’underground banking o degli schemi di false fatturazioni.

Dal punto di vista dell’adeguata verifica, questo ha ricadute concrete. La profilazione del rischio – cuore dell’approccio risk-based previsto dal D.Lgs. 231/2007 – diventa dinamica: non più una fotografia statica al momento dell’onboarding, ma un monitoraggio continuo capace di intercettare derive comportamentali nel tempo. I sistemi di AI possono aggiornare il profilo di rischio del cliente in tempo reale, segnalando deviazioni dalla norma con una sensibilità che i controlli tradizionali non consentivano.

L’indagine di Banca d’Italia sull’innovazione tecnologica nel contrasto al riciclaggio ha confermato questa traiettoria: gli intermediari che hanno integrato strumenti di machine learning nel transaction monitoring hanno registrato una significativa riduzione dei falsi positivi, con conseguente ottimizzazione dei controlli di secondo livello e riduzione del carico operativo sugli analisti. Un risultato non trascurabile in un contesto dove l’overload di alert è uno dei principali ostacoli all’efficacia dei presidi AML.

I sistemi di machine learning apprendono continuamente da nuovi dati, adattandosi rapidamente all’evoluzione delle tecniche di riciclaggio – ma questa stessa flessibilità pone la questione di chi governa il modello.

Il nodo dell’explainability: spiegare l’algoritmo al vigilatore

Se l’AI amplia le capacità di rilevazione, introduce nel contempo una criticità che il mondo della compliance conosce bene sotto il nome di black box problem. I modelli più performanti – le reti neurali profonde, in particolare – producono output la cui logica interna è opaca anche ai loro stessi sviluppatori. Un sistema può assegnare un punteggio di rischio elevato a un cliente senza che sia possibile ricostruire, in termini comprensibili a un essere umano, perché lo ha fatto.

Questo crea un problema immediato con il quadro normativo. L’AI Act europeo, entrato in vigore nel 2024, classifica i sistemi di AI impiegati nella valutazione del merito creditizio e nel monitoraggio delle transazioni finanziarie come sistemi ad alto rischio, soggetti a requisiti stringenti di trasparenza e spiegabilità. Le istituzioni finanziarie devono essere in grado di giustificare le decisioni prese con il supporto di questi strumenti.

Nel contesto specifico della segnalazione di operazioni sospette, il problema si fa ancora più concreto. La SOS non può essere una segnalazione generata automaticamente da un algoritmo. L’art. 35 del D.Lgs. 231/2007 richiede che il soggetto obbligato valuti l’operazione sulla base di aspetti oggettivi (entità, frequenza, natura), aspetti soggettivi (capacità economica del cliente, sua attività) e ogni altra circostanza conosciuta. Si tratta di un giudizio che presuppone la comprensione del perché l’operazione è sospetta; non basta che l’operatività sia stata intercettata da uno strumento di detection.

La Corte di Cassazione, con la sentenza n. 20647 del 2018, ha sancito che la segnalazione è legata a un giudizio di carattere tecnico tendenzialmente oggettivo, non dipendente dall’evidenziazione di un quadro indiziario di riciclaggio. Ma questo giudizio deve comunque essere formulato da un essere umano che comprende le ragioni del sospetto: l’algoritmo può orientare l’attenzione, non sostituire la valutazione.

Il punto è dunque questo: l’AI può generare un alert, può costruire un’analisi di supporto, può evidenziare anomalie statistiche. Ma il delegato SOS che decide di inviare – o archiviare – una segnalazione deve essere in grado di spiegare quella decisione in termini che vadano oltre “il sistema lo ha segnalato”. L’explainability non è un optional tecnologico: è un prerequisito della responsabilità legale.

Bias algoritmico: quando il modello impara le distorsioni del passato

Il bias algoritmico è forse il rischio meno intuitivo ma più insidioso dell’impiego dell’AI nei presidi AML. Un modello di machine learning impara dai dati storici. Se quei dati riflettono distorsioni sistemiche – profilazioni discriminatorie, sotto-rappresentazione di determinate categorie di operazioni, oversampling di certi settori – il modello le replica e, in alcuni casi, le amplifica.

Nel contesto dell’adeguata verifica rafforzata, le conseguenze possono essere gravi. Se i dati di training contengono una prevalenza di SOS relative a determinate nazionalità o aree geografiche, il modello potrebbe sviluppare una sensibilità sproporzionata verso quelle caratteristiche, generando falsi positivi sistematici verso soggetti che condividono quei profili demografici indipendentemente da qualsiasi comportamento effettivamente anomalo.

Il problema speculare è altrettanto pericoloso: i falsi negativi. Un modello addestrato su schemi di riciclaggio tradizionali potrebbe non riconoscere metodologie emergenti – le operazioni su cripto-attività, i sistemi di virtual IBAN, le strutture hawala digitalizzate – perché sottorappresentate nei dati storici. Il risultato è una falsa sicurezza: il sistema non segnala non perché l’operazione sia lecita, ma perché non l’ha mai vista.

La tracciabilità formale di un’operazione – anche quella garantita da sistemi di virtual IBAN – non è equivalente alla sua liceità. Un modello che non ha imparato questa distinzione è un modello pericoloso.

La gestione del bias richiede un approccio strutturato che va ben oltre la fase di sviluppo iniziale del modello. Banca d’Italia, nell’indagine sugli strumenti tecnologici AML, ha evidenziato come le condizioni per il successo di questi sistemi includano meccanismi adeguati di monitoraggio continuo delle funzionalità delle nuove soluzioni, per assicurarsi che mantengano nel tempo le prestazioni attese. Un modello non monitorato tende a deteriorarsi con il cambiare del contesto operativo: ciò che era in grado di predire accuratamente alert di sospetto tre anni fa può non esserlo più oggi.

Sul piano pratico, gli intermediari dovrebbero implementare processi di model validation periodica che includano: verifica delle metriche di performance su campioni aggiornati; analisi della distribuzione degli alert per categoria di cliente e tipologia operativa; revisione dei falsi positivi e negativi da parte di analisti esperti e testing specifico su popolazioni storicamente sotto-rappresentate nei dati di addestramento.

L’integrazione nel framework normativo: EBA, AI Act e nuove istruzioni UIF

Il quadro regolamentare in cui questi strumenti devono inserirsi è in rapida evoluzione e la direzione è chiara: maggiore responsabilizzazione degli intermediari, non minore. I nuovi Orientamenti EBA in materia di governance interna rafforzano l’approccio risk-based e richiedono che gli intermediari dimostrino la propria capacità di governare i rischi – inclusi quelli derivanti dall’impiego di tecnologie avanzate.

Le nuove disposizioni di Banca d’Italia del novembre 2024, che introducono le segnalazioni periodiche antiriciclaggio tramite il nuovo Manuale per le segnalazioni AML, si inseriscono in questa logica. L’obbligo per gli intermediari bancari e finanziari vigilati di trasmettere dati strutturati con cadenza annuale – entro il 31 marzo dell’anno successivo – non è solo un adempimento burocratico: è la creazione di un flusso informativo che consente alla Vigilanza di monitorare l’esposizione al rischio AML/CFT degli intermediari in modo sistematico.

In questo contesto acquista rilievo specifico il tema della strutturazione delle SOS. La UIF, nel richiamare a una collaborazione attiva di qualità, ha esplicitato che le segnalazioni devono essere espressione di processi interni solidi, valutazioni motivate e informazioni rilevanti. Questa richiesta di qualità – non di quantità – è particolarmente significativa nell’era dell’AI: un sistema che genera automaticamente migliaia di alert non produce necessariamente segnalazioni di qualità. Anzi, il rischio concreto è l’opposto: la produzione di SOS pro forma, poco motivate, che appesantiscono il sistema senza contribuire all’analisi operativa della UIF.

La UIF richiede un approccio maturo e consapevole alla segnalazione: non adempimenti formali, ma espressione di una cultura della collaborazione attiva fondata su processi interni solidi, valutazioni motivate e informazioni rilevanti.

Il Regolamento UE 2024/1624 (AML Package) spinge ulteriormente in questa direzione, prevedendo tra i mandati dell’AMLA lo sviluppo di specifiche tecniche per il formato delle SOS e orientamenti sul monitoraggio basato sul rischio. L’armonizzazione europea del processo di segnalazione passerà anche attraverso la standardizzazione delle informazioni che gli intermediari devono essere in grado di produrre – informazioni che i sistemi AI dovranno essere progettati per raccogliere e strutturare in modo leggibile.

La responsabilità che non si può delegare

C’è un principio che attraversa tutto il quadro normativo e che nessuna evoluzione tecnologica è destinata a cambiare: la responsabilità del soggetto obbligato è personale e non delegabile. L’intermediario – e, al suo interno, il delegato SOS, il Responsabile Antiriciclaggio, gli Esponenti AML – risponde delle proprie valutazioni.

Un intermediario che si limiti a trasmettere SOS generate automaticamente da un sistema AI, senza che vi sia stata una valutazione umana effettiva del sospetto, non sta adempiendo ai propri obblighi normativi – a prescindere dalla sofisticazione tecnologica del sistema impiegato.

D’altra parte, la responsabilità si estende anche in senso opposto: un intermediario che ignori gli alert di un sistema AI senza adeguata motivazione, o che non abbia adottato misure per garantire la qualità e l’affidabilità del modello impiegato, potrebbe trovarsi esposto a contestazioni in caso di operazioni illecite non adeguatamente presidiate.

Il modello di governance ottimale è, dunque, quello che definisce con chiarezza il ruolo dello strumento tecnologico come supporto e non come sostituto del giudizio umano. L’AI produce un’ipotesi; l’analista la valuta, la arricchisce con informazioni contestuali, la archivia o la trasforma in una segnalazione motivata. Questo loop umano-macchina non è inefficienza: è garanzia di qualità e presidio di responsabilità.

L’intelligenza artificiale è, nei presidi antiriciclaggio, un amplificatore di capacità. Consente di vedere ciò che prima era invisibile, di connettere ciò che sembrava disconnesso, di anticipare ciò che stava per accadere. Ma un amplificatore amplifica tutto: anche gli errori, i bias e le responsabilità.

Il valore vero di questi strumenti non risiede nella loro autonomia, ma nella qualità dell’interazione che generano con i professionisti che li governano. Un analista AML che lavora con un buon sistema di AI è più efficace di uno che lavora senza a condizione che sappia interrogare il sistema, interpretarne i segnali, riconoscerne i limiti.

In fondo, la questione non è se fidarsi dell’algoritmo. È capire cosa l’algoritmo sa fare e cosa, per legge e per natura, spetta ancora all’essere umano.