AI adoption stories #3: Come una banca globale trasforma la gestione del rischio con analytics utente precoci
AI adoption stories #3: Come una banca globale trasforma la gestione del rischio con analytics utente precoci
In breve
→ Una banca globale con oltre 80.000 dipendenti ha distribuito copilot basati su IA nei dipartimenti di trading, ricerca azionaria, risorse umane, finanza e affari legali, senza alcuna visibilità iniziale su come stessero effettivamente andando quelle conversazioni. → Tre rischi erano invisibili senza l'analisi delle conversazioni: dipendenti che inserivano inconsapevolmente PII nei prompt, utenti che ponevano domande al di fuori dei limiti delle policy e l'IA che forniva informazioni errate o fuorvianti in scenari finanziari complessi. → L'implementazione degli analytics all'interno del VPC della banca ha fornito visibilità in tempo reale su tutti i dipartimenti. Nei primi 60 giorni, la segnalazione dei rischi ha prevenuto decine di potenziali violazioni di conformità prima che si aggravassero. → L'analisi comportamentale ha rivelato che i team legali registravano i tassi di errore più elevati, non a causa di un guasto tecnico, ma perché l'IA richiedeva un addestramento migliore sul linguaggio normativo. Le risorse umane hanno registrato l'adozione più forte, con un utilizzo quotidiano costante e un'elevata soddisfazione. → Questo caso dimostra che nelle implementazioni di IA regolamentate, il monitoraggio delle interazioni con l'IA da parte dei lavoratori non è facoltativo. Capire come i dipendenti utilizzano gli strumenti di IA è ciò che ti consente di gestire i rischi abilitando al contempo la produttività.
Una banca di alto livello con oltre 80.000 dipendenti ha lanciato un programma di IA per incrementare la produttività interna. Quello che era iniziato con dei copilot per i trader e la ricerca azionaria si è rapidamente esteso ai team delle risorse umane, delle finanze e dell'ufficio legale, ognuno dei quali utilizzava il proprio assistente.
La sfida era evidente: migliaia di dipendenti interagivano con strumenti di IA nei vari dipartimenti, ma la banca non aveva alcuna visibilità su come stessero effettivamente andando queste conversazioni.
Perché avevano bisogno di visibilità fin dall'inizio
La gestione del rischio tradizionale non è stata concepita per l'IA conversazionale. La banca si trovava ad affrontare tre punti ciechi critici.
→ In primo luogo, i dipendenti inserivano inconsapevolmente informazioni personali e riservate — inclusi i PII — nei prompt. Senza un monitoraggio, l'esposizione di dati sensibili poteva avvenire su larga scala.
→ In secondo luogo, gli utenti ponevano domande al di fuori dei limiti delle policy senza che vi fosse un sistema per segnalare i comportamenti a rischio. In un ambiente regolamentato, questo creava lacune di conformità.
→ In terzo luogo, l'IA a volte restituiva informazioni errate o fuorvianti, specialmente in scenari finanziari complessi. Queste allucinazioni creavano confusione e rischi nelle funzioni regolamentate.
Insight in tempo reale che hanno cambiato tutto
L'implementazione di Nebuly all'interno del VPC della banca ha fornito una visibilità immediata in tutti i dipartimenti. Le analisi hanno rivelato pattern che avrebbero richiesto mesi per emergere attraverso i metodi tradizionali.
La segnalazione dei rischi ha identificato in tempo reale i prompt contenenti PII, termini limitati e utilizzi non conformi. Il team poteva ora individuare i problemi prima che degenerassero.
Il rilevamento dei fallimenti ha fatto emergere risposte errate o allucinazioni prima che la fiducia degli utenti venisse meno. Questo è diventato fondamentale per mantenere la fiducia negli strumenti di IA nei dipartimenti più sensibili.
Soprattutto, potevano monitorare come i diversi dipartimenti utilizzassero i propri copilot, rivelando pattern di conversazione distinti tra trader, personale delle risorse umane e team legali.
Il primo impatto sulle operazioni
I risultati sono stati immediati. Il rilevamento dei rischi ha prevenuto decine di potenziali violazioni della conformità nei primi 60 giorni.
L'analisi del comportamento degli utenti ha mostrato che i team legali registravano i tassi di errore più elevati, ma non a causa di problemi tecnici. L'IA aveva bisogno di un addestramento migliore sul linguaggio normativo e sulla terminologia legale.
I team delle risorse umane hanno mostrato l'adozione più forte, con un utilizzo quotidiano costante e punteggi elevati di soddisfazione. Questo insight ha aiutato la banca a estendere strumenti simili ad altri dipartimenti focalizzati sulle persone.
Cosa significa questo per gli altri istituti finanziari
Inizia con la visibilità. Quando distribuisci strumenti di IA in ambienti regolamentati, il monitoraggio non è opzionale. Capire come i dipendenti interagiscono con gli strumenti di IA ti aiuta a gestire il rischio abilitando al contempo la produttività.
La banca in questo caso ha evitato potenziali problemi di conformità avendo un quadro completo dell'utilizzo dell'IA da parte dei dipendenti, e non solo metriche sulle prestazioni del sistema.
Nebuly
Nebuly è la piattaforma ROI per l'IA aziendale. Si collega agli agenti di IA su cui si basa la tua attività, agli assistenti con cui interagiscono i tuoi clienti e agli strumenti che i tuoi dipendenti utilizzano ogni giorno, tra cui Claude, ChatGPT e Copilot, e traduce quell'attività in valore aziendale. Quanto tempo viene risparmiato nei vari team. Quale fatturato sta influenzando la tua IA. Come si presentano in pratica l'adozione e la competenza nell'IA, tra dipartimenti e aree geografiche. Tutto aggregato a livello organizzativo, mai legato ai singoli individui.
Se hai bisogno di chiarezza su ciò che il tuo investimento in IA sta effettivamente offrendo, prenota una demo.
Leggi altre storie di adozione di Gen AI:
- #1: Cosa ha rivelato l'analisi degli utenti sul lancio di un copilot GenAI
- #2: Come le prime analisi hanno plasmato un assistente finanziario basato su IA
Domande frequenti
Quali sono stati i tre rischi di conformità che la banca ha identificato attraverso l'analisi delle conversazioni basata sull'IA?
La banca ha individuato tre distinti modelli di rischio nelle prime settimane di implementazione. I dipendenti inserivano inconsapevolmente informazioni personali nei prompt: un rischio di esposizione dei dati derivante dal normale utilizzo, non da una deliberata violazione delle policy. Gli utenti ponevano domande che sfioravano o superavano i limiti delle policy, creando lacune di conformità in un ambiente regolamentato. Inoltre, l'AI forniva informazioni errate o fuorvianti in scenari finanziari complessi: allucinazioni che generavano confusione e rischi in reparti in cui l'accuratezza è un requisito normativo.
In che modo la banca ha distribuito Nebuly rispettando i requisiti di privacy dei dati?
Nebuly è stato distribuito all'interno del virtual private cloud privato della banca, il che significa che tutti i dati relativi alle interazioni sono rimasti all'interno dell'infrastruttura della banca. Nessun dato sulle conversazioni è stato trasmesso a server esterni. Questo modello di distribuzione ha consentito alla banca di mantenere il pieno controllo sui dati sensibili delle interazioni dei dipendenti, consentendo comunque di accedere alle analisi comportamentali necessarie per comprendere i modelli di utilizzo, rilevare i rischi di conformità e misurare l'adozione nei vari dipartimenti.
Cosa ha scoperto la banca confrontando i modelli di utilizzo dell'IA tra i vari reparti?
L'analisi a livello di dipartimento ha rivelato differenze nette e pronte per essere tradotte in azioni concrete. I team legali hanno mostrato i tassi di errore più elevati nel sistema, ma l'analisi delle tipologie di query specifiche ha dimostrato che si trattava di una lacuna nei dati di addestramento piuttosto che di un guasto tecnico: l'IA aveva bisogno di una migliore copertura del linguaggio normativo e della terminologia legale. I team delle risorse umane hanno registrato l'adozione più forte, con un utilizzo quotidiano costante e punteggi di soddisfazione elevati. Questa informazione ha fornito alla banca una direzione chiara: migliorare i dati di addestramento legale dell'IA e utilizzare il modello di adozione di successo delle risorse umane come punto di partenza per l'espansione ad altri dipartimenti focalizzati sulle persone.
Qual è la lezione per le altre istituzioni finanziarie che implementano l'IA su scala?
Il caso dimostra che, nei settori regolamentati, la visibilità su come i dipendenti interagiscono effettivamente con gli strumenti di AI è un requisito di governance, non un miglioramento opzionale. Il monitoraggio del sistema ti dice che l'AI è in funzione. L'analisi comportamentale ti mostra invece se i dipendenti la stanno usando in modo sicuro, se riscontrano problemi di accuratezza che generano rischi e dove l'adozione è reale rispetto a quella solo nominale. In questo caso, la banca ha evitato potenziali violazioni di compliance perché i pattern comportamentali erano visibili prima che la situazione degenerasse — una forma di gestione proattiva del rischio che il monitoraggio dell'infrastruttura non può fornire.
In che modo le banche possono utilizzare i dati sull'adozione dell'IA per guidare le decisioni di roll-out?
I dati sull'adozione a livello di dipartimento rivelano quali funzioni hanno realmente integrato gli strumenti di AI nei flussi di lavoro quotidiani e quali hanno solo un accesso nominale senza un utilizzo effettivo. Questa distinzione ti permette di capire dove investire in formazione e supporto, quali casi d'uso espandere e quali richiedono una riprogettazione prima di essere scalati. In questo caso, la banca ha utilizzato il forte modello di adozione del team delle risorse umane per identificare le caratteristiche di un'implementazione interna dell'AI di successo (uso costante, alta soddisfazione, basso tasso di errore) e lo ha usato come esempio per l'espansione ad altri dipartimenti. Senza dati comportamentali, queste decisioni sarebbero state prese in base a ipotesi e non su prove concrete.
Resta aggiornato su ciò che stiamo imparando, costruendo e osservando mentre i team enterprise distribuiscono e misurano gli agenti AI in produzione.