American Express testet eine Technologie, die vor allem für die Erstellung von Deepfake-Videos bekannt ist – realistische Clips von Menschen, die Dinge sagen, die sie nie wirklich gesagt haben – um Finanzbetrug zu bekämpfen.
In diesem Fall erstellt das Unternehmen gefälschte Finanzdaten wie Kreditkartentransaktionen, die es in maschinelle Lernalgorithmen einspeisen kann, um Kreditkartenbetrug und andere Probleme besser zu erkennen. Ziel ist es, die Kunden schneller darauf aufmerksam zu machen, dass ihre Konten kompromittiert wurden, bevor die Kriminellen die Gelegenheit haben, sich in einen Kaufrausch zu stürzen.
Das Herzstück der Forschung von American Express ist die KI-Technologie, die als generative adversarische Netzwerke (GANs) bekannt ist und zur Erstellung von Deepfake-Videos verwendet wird. In den letzten Jahren hat sich die Technologie so weit verbessert, dass sie dazu beitragen kann, überzeugende Videoclips zu erstellen, die den Betrachter täuschen.
Vor zwei Jahren haben Forscher der University of Washington beispielsweise GANs eingesetzt, um ein realistisch aussehendes Video des ehemaligen Präsidenten Barack Obama zu erstellen, in dem er eine Rede hält, die er in Wirklichkeit nie gehalten hat. Kürzlich hat das MIT Center for Advanced Virtuality Lab ein gefälschtes Video des ehemaligen Präsidenten Richard Nixon erstellt, in dem er eine gefälschte Rede über das Scheitern der Apollo-11-Mondlandung hält.
Im Falle des gefälschten Nixon-Clips trainierten MIT-Forscher die GAN-Software auf Audioclips von Nixons Reden, so dass sie lernen konnte, die Stimme eines Schauspielers so zu verändern, dass sie wie die des ehemaligen Präsidenten klingt. Die Forscher von American Express hingegen trainierten ihre GANs mit internen Daten, die normalerweise für Aufgaben wie die Berechnung von Verbraucherkrediten verwendet werden, so dass die Software ihre eigenen Finanzdaten erstellen konnte.
Das Ziel war es, dass die GANs gefälschte Transaktionen erstellen, „die normal aussehen“, sagte Dmitry Efimov, der Vizepräsident der Forschung für maschinelles Lernen bei American Express. Daten mit offensichtlichen Anomalien, wie z. B. mehrere Käufe von Toilettenpapier in New York City an einem Tag, gefolgt von einem Rasenmäherkauf in Bakersfield, Kalifornien, am nächsten Tag, wären weniger effektiv.
Efimov lehnte es ab, sich dazu zu äußern, wie American Express synthetische Finanzdaten speziell zur Verbesserung der Betrugserkennung einsetzen könnte, und verwies auf das Risiko, dass Kriminelle die Informationen zu ihrem Vorteil nutzen könnten. Generell gilt aber: Je mehr Finanzdaten das Unternehmen hat, desto mehr kann es seine Cybersicherheitssysteme verbessern.
Zu den anderen Unternehmen, die an der Verwendung von GANs zur Erstellung synthetischer Finanzdaten forschen, gehört der Online-Einzelhandelsriese Amazon. Im Jahr 2018 veröffentlichte Amazon ein Papier über die Verwendung der Software, um synthetische E-Commerce-Transaktionen zu erstellen, damit die Daten schließlich für „Produktempfehlungen, gezielte Angebote und die Simulation zukünftiger Ereignisse verwendet werden können.“
Forscher der University of Michigan haben ebenfalls ein Papier über die Verwendung von GANs zur Erstellung von gefälschten Börsenaufträgen veröffentlicht. Diese Informationen könnten zur Aufdeckung von Börsenmanipulationen verwendet werden, erklärte Xintong Wang, Doktorand an der Informatikabteilung der Universität Michigan.
Wie die Forscher von American Express in einem Papier beschrieben, das sie auf der diesjährigen Jahreskonferenz über neuronale Informationsverarbeitungssysteme vorstellten, ist es jedoch schwierig zu beurteilen, wie effektiv die GANs bei der Erstellung gefälschter Finanzdaten sind.
Menschen können sich von KI generierte Bilder leicht ansehen, um zu sehen, ob sie der Realität ähneln. Aber bei Finanzdaten ist die Technologie so neu, dass es keine „allgemein anerkannten Techniken“ gibt, mit denen die Forscher die Software bewerten können, schreiben sie.
Die Forscher von American Express verwendeten schließlich statistische Verfahren, um die von der KI generierten Daten zu analysieren, und stellten fest, dass die Ergebnisse gut, aber nicht großartig waren. Die Forscher planen, ihre Techniken für künftige Untersuchungen zu verfeinern.
Letztendlich sind die Forscher optimistisch, dass sich ihre Arbeit auszahlen wird. Wie sie in dem Papier beschreiben, gibt es einen Mangel an öffentlich zugänglichen Finanzdaten, die sie zum Trainieren ihrer Modelle zur Betrugserkennung verwenden können. KI-Forscher könnten ihre synthetischen Datensätze der Öffentlichkeit zugänglich machen, was von Vorteil wäre, da andere Forscher auf der Arbeit aufbauen könnten, so die Forscher in dem Papier. Ein Amex-Sprecher sagte jedoch, dass das Finanzunternehmen keine Pläne hat, dies zu tun.
„Die persönlichen Daten und die Privatsphäre der Kunden würden mit diesem Ansatz geschützt“, schreiben die Forscher.
Weitere lesenswerte Tech-Berichte von Fortune:
- Früherer Google-Chef Eric Schmidt warnt vor Chinas „High-Tech-Autoritarismus“
- Apple und Google erweitern Tools zur Aufspürung digitaler Coronavirus-Kontakte, um die Einführung zu beschleunigen
- Der bizarre Grund, warum Amazon-Fahrer Telefone in Bäumen in der Nähe von Whole Foods aufhängen
- Fortune’s 2020 40 Under 40
- Warum Poesie der ultimative Test für A.I.