American Express teste une technologie qui est surtout connue pour aider à créer des vidéos deepfake – des clips réalistes de personnes disant des choses qu’elles n’ont jamais vraiment dites – pour lutter contre la fraude financière.
Dans ce cas, l’entreprise crée de fausses données financières comme des transactions par carte de crédit qu’elle peut alimenter dans des algorithmes d’apprentissage automatique pour mieux les aider à repérer les escroqueries par carte de crédit et d’autres problèmes. L’objectif est d’alerter plus rapidement les clients que leurs comptes ont été compromis, avant que les criminels n’aient la possibilité de se lancer dans des dépenses effrénées.
Au cœur de la recherche d’American Express se trouve la technologie d’IA connue sous le nom de réseaux adversariens génératifs, ou GAN, qui est utilisée pour créer des vidéos deepfake. Ces dernières années, cette technologie s’est améliorée au point de pouvoir aider à créer des clips vidéo convaincants qui trompent les spectateurs.
Il y a deux ans, par exemple, des chercheurs de l’Université de Washington ont utilisé des GAN pour créer une vidéo d’apparence réaliste de l’ancien président Barack Obama prononçant un discours qu’il n’a jamais réellement prononcé. Plus récemment, le laboratoire du Center for Advanced Virtuality du MIT a créé une vidéo deepfake de l’ancien président Richard Nixon prononçant un faux discours sur l’échec de la mission d’alunissage Apollo 11.
Dans le cas du faux clip de Nixon, les chercheurs du MIT ont entraîné le logiciel GAN sur des clips audio des discours de Nixon afin qu’il apprenne à modifier la voix d’un acteur pour qu’elle ressemble à celle de l’ancien président. Les chercheurs d’American Express, quant à eux, ont entraîné leurs GAN sur des données internes qui sont normalement utilisées pour des tâches telles que le calcul des scores de crédit des consommateurs, afin que le logiciel puisse créer ses propres données financières.
Le but était que les GAN créent de fausses transactions « qui ont l’air normales », a déclaré Dmitry Efimov, le vice-président de la recherche en apprentissage automatique pour American Express. Les données présentant des anomalies évidentes, comme de multiples achats de papier toilette à New York un jour, suivis d’un achat de tondeuse à gazon à Bakersfield, en Californie, le lendemain, seraient moins efficaces.
Efimov a refusé de commenter la façon dont American Express pourrait spécifiquement utiliser les données financières synthétiques pour améliorer la détection des fraudes, citant le risque que les criminels utilisent les informations à leur avantage. Mais, de manière générale, plus l’entreprise dispose de données financières, plus elle peut améliorer ses systèmes de cybersécurité.
D’autres organisations qui font des recherches sur l’utilisation des GAN pour créer des données financières synthétiques incluent le géant de la vente au détail en ligne Amazon. En 2018, Amazon a publié un article sur l’utilisation du logiciel pour créer des transactions de commerce électronique synthétiques afin que les données puissent éventuellement être utilisées pour « la recommandation de produits, le ciblage des offres et la simulation d’événements futurs. »
Des chercheurs de l’Université du Michigan ont également publié un article sur l’utilisation des GAN pour créer de faux ordres de bourse. Ces informations pourraient être utilisées pour aider à découvrir des stratagèmes de manipulation boursière, a expliqué Xintong Wang, candidat au doctorat au département d’informatique de l’université du Michigan.
Pour autant, comme l’ont décrit les chercheurs d’American Express dans un article qu’ils ont présenté à la conférence annuelle sur les systèmes de traitement de l’information neuronale de cette année, il est difficile d’évaluer l’efficacité des GAN pour créer de fausses données financières.
Les humains peuvent facilement regarder des images générées par l’IA pour voir si elles ressemblent à la réalité. Mais avec les données financières, la technologie est si nouvelle qu’il n’y a pas de « techniques communément acceptées » que les chercheurs peuvent utiliser pour noter le logiciel, ont-ils écrit.
Les chercheurs d’American Express ont fini par utiliser des techniques statistiques pour analyser les données générées par l’IA et ont constaté que les résultats étaient bons mais pas excellents. Les chercheurs prévoient d’affiner leurs techniques pour de futures recherches.
En fin de compte, les chercheurs sont optimistes et pensent que leur travail sera payant. Comme ils l’ont décrit dans le document, il y a un manque de données financières accessibles au public qu’ils peuvent utiliser pour former leurs modèles de détection de la fraude. Les chercheurs en informatique pourraient rendre publics leurs ensembles de données synthétiques, ce qui serait bénéfique car d’autres chercheurs pourraient s’appuyer sur leurs travaux, expliquent-ils dans leur article. Mais un porte-parole d’Amex a déclaré que la firme financière n’avait pas l’intention de le faire.
« Les données personnelles et la vie privée des clients seraient protégées en utilisant cette approche », ont écrit les chercheurs.
Plus de couverture technologique incontournable de Fortune :
- L’ancien chef de Google Eric Schmidt met en garde contre « l’autoritarisme high-tech » de la Chine
- Apple et Google étendent les outils de dépistage du coronavirus numérique pour aider à accélérer l’adoption
- La raison bizarre pour laquelle les conducteurs d’Amazon accrochent des téléphones dans les arbres près de Whole Foods
- Les 40 Under 40 2020 de Fortune
- Pourquoi la poésie pourrait être le test ultime pour A.I.