American Express is technologie aan het testen die het best bekend is voor het helpen creëren van deepfake video’s-realistische clips van mensen die dingen zeggen die ze nooit echt hebben gezegd-om financiële fraude te bestrijden.
In dit geval creëert het bedrijf valse financiële gegevens zoals creditcardtransacties die het kan invoeren in machine-learning algoritmen om hen beter te helpen creditcardzwendel en andere problemen op te sporen. Het doel is om klanten sneller te waarschuwen dat hun rekeningen zijn gecompromitteerd, voordat criminelen de kans krijgen om geld uit te geven.
De kern van het onderzoek van American Express is de A.I. technologie die bekend staat als generatieve adversarial networks, of GAN’s, die worden gebruikt om deepfake video’s te maken. In de afgelopen jaren is de technologie verbeterd tot het punt dat het kan helpen bij het maken van overtuigende videoclips die kijkers voor de gek houden.
Twee jaar geleden, bijvoorbeeld, gebruikten onderzoekers van de Universiteit van Washington GAN’s om een realistisch ogende video te maken van voormalig president Barack Obama die een toespraak gaf die hij nooit daadwerkelijk heeft gegeven. Meer recentelijk creëerde het Center for Advanced Virtuality-lab van MIT een deepfake-video van voormalig president Richard Nixon die een neprede hield over het mislukken van de Apollo 11 maanlandingsmissie.
In het geval van de nep Nixon-clip trainden MIT-onderzoekers GAN-software op audioclips van Nixons toespraken, zodat het kon leren om de stem van een acteur aan te passen om als die van de voormalige president te klinken. American Express-onderzoekers daarentegen trainden hun GAN’s op interne gegevens die normaal worden gebruikt voor taken als het berekenen van consumentenkredietscores, zodat de software zijn eigen financiële gegevens kon creëren.
Het doel was dat de GAN’s nep-transacties creëerden “die er normaal uitzien,” zei Dmitry Efimov, de vice-president van machine learning-onderzoek voor American Express. Gegevens met duidelijke anomalieën, zoals meerdere aankopen van toiletpapier in New York City op een dag, gevolgd door een aankoop van een grasmaaier in Bakersfield, Californië, de volgende dag, zouden minder effectief zijn.
Efimov weigerde commentaar te geven op hoe American Express specifiek synthetische financiële gegevens zou kunnen gebruiken om de opsporing van fraude te verbeteren, onder verwijzing naar het risico dat criminelen de informatie in hun voordeel zouden kunnen gebruiken. Maar, in het algemeen, hoe meer financiële gegevens het bedrijf heeft, hoe meer het zijn cyberbeveiligingssystemen kan verbeteren.
Andere organisaties die onderzoek doen naar het gebruik van GAN’s om synthetische financiële gegevens te creëren, zijn onder meer online retailing-gigant Amazon. In 2018 publiceerde Amazon een paper over het gebruik van de software om synthetische e-commercetransacties te creëren, zodat de gegevens uiteindelijk kunnen worden gebruikt voor “productaanbeveling, het richten van deals, en simulatie van toekomstige gebeurtenissen.”
Onderzoekers aan de Universiteit van Michigan hebben ook een paper gepubliceerd over het gebruik van GAN’s om valse beursorders te maken. Die informatie zou kunnen worden gebruikt om manipulatieschema’s op de aandelenmarkt aan het licht te brengen, verklaarde Xintong Wang, een Ph.D. kandidaat bij de afdeling computerwetenschappen van de Universiteit van Michigan.
Toch, zoals onderzoekers van American Express beschreven in een paper dat ze dit jaar presenteerden op de jaarlijkse conferentie over neurale informatieverwerkingssystemen, is het moeilijk om te evalueren hoe effectief de GAN’s zijn bij het creëren van valse financiële gegevens.
Mensen kunnen gemakkelijk kijken naar A.I.-gegenereerde beelden om te zien of ze op het echte ding lijken. Maar met financiële gegevens is de technologie zo nieuw dat er geen “algemeen aanvaarde technieken” zijn die de onderzoekers kunnen gebruiken om de software te beoordelen, schreven ze.
De onderzoekers van American Express gebruikten uiteindelijk statistische technieken om de door A.I. gegenereerde gegevens te analyseren en ontdekten dat de resultaten goed waren, maar niet geweldig. De onderzoekers zijn van plan hun technieken te verfijnen voor toekomstig onderzoek.
Ultimately, de onderzoekers zijn optimistisch dat hun werk zal lonen. Zoals ze in het artikel beschrijven, is er een gebrek aan openbaar beschikbare financiële gegevens die ze kunnen gebruiken om hun fraudedetectiemodellen te trainen. A.I. onderzoekers zouden hun synthetische datasets kunnen vrijgeven aan het publiek, wat voordelig zou zijn omdat andere onderzoekers dan op hun werk kunnen voortbouwen, zo leggen de onderzoekers uit in de paper. Maar een woordvoerder van Amex zei dat de financiële firma geen plannen heeft om dit te doen.
“De persoonlijke gegevens en privacy van klanten zouden worden beschermd met behulp van deze aanpak,” schreven de onderzoekers.
Meer must-read tech-dekking van Fortune:
- Voormalig Google-chef Eric Schmidt waarschuwt voor China’s “high-tech autoritarisme”
- Apple en Google breiden digitale coronavirus contact-tracing tools uit om adoptie te helpen versnellen
- De bizarre reden waarom Amazon-chauffeurs telefoons ophangen in bomen in de buurt van Whole Foods
- Fortune’s 2020 40 Under 40
- Waarom poëzie de ultieme test kan zijn voor A.I.