American Express testar teknik som är mest känd för att hjälpa till att skapa deepfake-videor – realistiska klipp av människor som säger saker som de egentligen aldrig sagt – för att bekämpa ekonomiska bedrägerier.
I det här fallet skapar företaget falska finansiella data, t.ex. kreditkortstransaktioner, som det kan mata in i maskininlärningsalgoritmer för att bättre hjälpa dem att upptäcka kreditkortsbedrägerier och andra problem. Målet är att snabbare varna kunderna om att deras konton har äventyrats, innan brottslingarna har en chans att ge sig ut på spenderingståg.
Kärnan i American Express forskning är den artificiellt intelligenta tekniken som kallas generative adversarial networks, eller GANs, som används för att skapa deepfake-videor. På senare år har tekniken förbättrats till den grad att den kan hjälpa till att skapa övertygande videoklipp som lurar tittarna.
För två år sedan använde forskare från University of Washington till exempel GANs för att skapa en realistisk video av den förre presidenten Barack Obama som höll ett tal som han aldrig höll. Nyligen skapade MIT:s Center for Advanced Virtuality lab en deepfake-video av den före detta presidenten Richard Nixon som höll ett falskt tal om att Apollo 11:s månlandning misslyckades.
I fallet med det falska Nixon-klippet tränade MIT-forskare GAN-programvaran på ljudklipp av Nixons tal så att den kunde lära sig att ändra en skådespelares röst så att den lät som den före detta presidentens röst. American Express forskare, å andra sidan, tränade sina GANs på interna data som normalt används för uppgifter som att beräkna konsumentkreditpoäng, så att programvaran kunde skapa sina egna finansiella data.
Målet var att GANs skulle skapa falska transaktioner ”som ser normala ut”, säger Dmitry Efimov, vice ordförande för forskning om maskininlärning för American Express. Data med uppenbara anomalier, t.ex. flera köp av toalettpapper i New York en dag följt av ett köp av en gräsklippare i Bakersfield, Kalifornien, nästa dag, skulle vara mindre effektiva.
Efimov avböjde att kommentera hur American Express specifikt skulle kunna använda syntetiska finansiella data för att förbättra upptäckten av bedrägerier, med hänvisning till risken för att brottslingar skulle kunna använda informationen till sin fördel. Men generellt sett kan företaget förbättra sina cybersäkerhetssystem desto mer ju fler finansiella data det har.
Andra organisationer som forskar om att använda GANs för att skapa syntetiska finansiella data är bland annat detaljhandelsjätten Amazon på nätet. År 2018 publicerade Amazon en artikel om att använda programvaran för att skapa syntetiska e-handelstransaktioner så att data så småningom skulle kunna användas för ”produktrekommendationer, riktade erbjudanden och simulering av framtida händelser”.
Forskare vid University of Michigan har också publicerat en artikel om att använda GANs för att skapa falska order på aktiemarknaden. Den informationen skulle kunna användas för att hjälpa till att avslöja system för manipulering av aktiemarknaden, förklarade Xintong Wang, doktorand vid Michigans datavetenskapliga avdelning.
Såsom American Express-forskare beskrev i en artikel som de presenterade vid årets årliga konferens om neurala informationsbehandlingssystem är det ändå svårt att utvärdera hur effektiva GAN:erna är när det gäller att skapa falska finansiella data.
Människor kan lätt titta på AI-genererade bilder för att se om de liknar den verkliga bilden. Men när det gäller finansiella data är tekniken så ny att det inte finns några ”allmänt accepterade tekniker” som forskarna kan använda för att betygsätta programvaran, skriver de.
American Express-forskarna slutade med att använda statistiska tekniker för att analysera de AI-genererade uppgifterna och fann att resultaten var bra men inte fantastiska. Forskarna planerar att förfina sina tekniker för framtida forskning.
I slutändan är forskarna optimistiska om att deras arbete kommer att ge resultat. Som de beskriver i artikeln finns det en brist på offentligt tillgängliga finansiella data som de kan använda för att träna sina modeller för upptäckt av bedrägerier. A.I.-forskare skulle kunna släppa sina syntetiska datamängder till allmänheten, vilket skulle vara fördelaktigt eftersom andra forskare skulle kunna bygga vidare på arbetet, förklarar forskarna i artikeln. Men en talesperson för Amex sade att finansföretaget inte har några planer på att göra detta.
”Kundernas personuppgifter och integritet skulle skyddas med detta tillvägagångssätt”, skrev forskarna.
Mer måste-läst teknikbevakning från Fortune:
- Förre Google-chefen Eric Schmidt varnar för Kinas ”högteknologiska auktoritarism”
- Apple och Google utökar verktygen för kontaktspårning av digitala coronavirus för att påskynda införandet
- Den bisarra anledningen till att Amazons förare hänger upp telefoner i träden i närheten av Whole Foods
- Fortunes 40 under 40 år 2020
- Varför poesi kan vara det ultimata testet för A.I.