American Express sta testando la tecnologia che è meglio conosciuta per aiutare a creare video deepfake – clip realistici di persone che dicono cose che non hanno mai realmente detto – per combattere le frodi finanziarie.
In questo caso, l’azienda sta creando dati finanziari falsi come le transazioni con carta di credito che può alimentare algoritmi di apprendimento automatico per aiutarli a individuare meglio le truffe con carta di credito e altri problemi. L’obiettivo è quello di avvisare più rapidamente i clienti che i loro conti sono stati compromessi, prima che i criminali abbiano la possibilità di fare spese pazze.
Al cuore della ricerca di American Express c’è la tecnologia A.I. nota come reti generative avversarie, o GAN, che vengono utilizzate per creare video deepfake. Negli ultimi anni, la tecnologia è migliorata al punto che può aiutare a creare video clip convincenti che ingannano gli spettatori.
Due anni fa, per esempio, i ricercatori dell’Università di Washington hanno usato i GAN per creare un video dall’aspetto realistico dell’ex presidente Barack Obama che tiene un discorso che in realtà non ha mai tenuto. Più recentemente, il laboratorio Center for Advanced Virtuality del MIT ha creato un video deepfake dell’ex presidente Richard Nixon che tiene un discorso fasullo sul fallimento della missione di allunaggio dell’Apollo 11.
Nel caso del falso clip di Nixon, i ricercatori del MIT hanno addestrato il software GAN su clip audio dei discorsi di Nixon in modo che potesse imparare a modificare la voce di un attore per suonare come quella dell’ex presidente. I ricercatori di American Express, d’altra parte, hanno addestrato i loro GAN sui dati interni che sono normalmente utilizzati per compiti come il calcolo dei punteggi di credito dei consumatori, in modo che il software potesse creare i propri dati finanziari.
L’obiettivo era per i GAN di creare transazioni false “che sembrano normali”, ha detto Dmitry Efimov, il vice presidente della ricerca di apprendimento automatico per American Express. I dati con anomalie evidenti, come gli acquisti multipli di carta igienica a New York City in un giorno, seguiti da un acquisto di tosaerba a Bakersfield, in California, il prossimo, sarebbero meno efficaci.
Efimov ha rifiutato di commentare su come American Express potrebbe specificamente utilizzare dati finanziari sintetici per migliorare il rilevamento delle frodi, citando il rischio che i criminali potrebbero utilizzare le informazioni a loro vantaggio. Ma, in generale, più dati finanziari l’azienda ha, più può migliorare i suoi sistemi di cybersicurezza.
Altre organizzazioni che stanno facendo ricerca utilizzando i GAN per creare dati finanziari sintetici includono il gigante della vendita al dettaglio online Amazon. Nel 2018, Amazon ha pubblicato un documento sull’utilizzo del software per creare transazioni di e-commerce sintetiche in modo che i dati possano eventualmente essere utilizzati per “la raccomandazione del prodotto, il targeting delle offerte e la simulazione di eventi futuri.”
Ricercatori dell’Università del Michigan hanno anche pubblicato un documento sull’uso delle GAN per creare falsi ordini di borsa. Queste informazioni potrebbero essere utilizzate per aiutare a scoprire schemi di manipolazione del mercato azionario, ha spiegato Xintong Wang, un candidato al dottorato nel dipartimento di informatica dell’Università del Michigan.
Ancora, come i ricercatori dell’American Express hanno descritto in un documento che hanno presentato alla conferenza annuale di quest’anno sui sistemi di elaborazione delle informazioni neurali, è difficile valutare quanto siano efficaci le GAN nel creare dati finanziari falsi.
Gli esseri umani possono facilmente guardare le immagini generate dall’intelligenza artificiale per vedere se assomigliano alla realtà. Ma con i dati finanziari, la tecnologia è così nuova che non ci sono “tecniche comunemente accettate” che i ricercatori possono usare per valutare il software, hanno scritto.
I ricercatori dell’American Express hanno finito per usare tecniche statistiche per analizzare i dati generati dall’A.I. e hanno scoperto che i risultati erano buoni ma non eccezionali. I ricercatori hanno intenzione di perfezionare le loro tecniche per la ricerca futura.
In definitiva, i ricercatori sono ottimisti sul fatto che il loro lavoro darà i suoi frutti. Come hanno descritto nel documento, c’è una mancanza di dati finanziari pubblicamente disponibili che possono utilizzare per addestrare i loro modelli di rilevamento delle frodi. I ricercatori A.I. potrebbero rilasciare i loro set di dati sintetici al pubblico, il che sarebbe vantaggioso perché altri ricercatori potrebbero costruire sul lavoro, hanno spiegato i ricercatori nel documento. Ma un portavoce di Amex ha detto che la società finanziaria non ha intenzione di farlo.
“I dati personali e la privacy dei clienti sarebbero protetti utilizzando questo approccio”, hanno scritto i ricercatori.
Più copertura tecnologica da leggere da Fortune:
- L’ex capo di Google Eric Schmidt mette in guardia dall'”autoritarismo high-tech” della Cina
- Apple e Google espandono gli strumenti di tracciamento dei contatti del coronavirus digitale per aiutare ad accelerare l’adozione
- Il bizzarro motivo per cui gli autisti di Amazon stanno appendendo i telefoni agli alberi vicino a Whole Foods
- I 40 Under 40 di Fortune per il 2020
- Perché la poesia potrebbe essere il test definitivo per A.I.