American Express tester teknologi, der er bedst kendt for at hjælpe med at skabe deepfake-videoer – realistiske klip af folk, der siger ting, de aldrig rigtig har sagt – for at bekæmpe økonomisk svindel.
I dette tilfælde skaber virksomheden falske finansielle data som f.eks. kreditkorttransaktioner, som den kan indlæse i maskinlæringsalgoritmer for bedre at hjælpe dem med at opdage kreditkortsvindel og andre problemer. Målet er hurtigere at advare kunderne om, at deres konti er blevet kompromitteret, før kriminelle har en chance for at gå på forbrugstogter.
Kernen i American Express’ forskning er den kunstige intelligens-teknologi, der er kendt som generative adversarial networks eller GAN’er, som bruges til at skabe deepfake-videoer. I de seneste år er teknologien blevet så forbedret, at den kan hjælpe med at skabe overbevisende videoklip, der narrer seerne.
For to år siden brugte forskere fra University of Washington f.eks. GAN’er til at skabe en realistisk udseende video af den tidligere præsident Barack Obama, der holdt en tale, som han faktisk aldrig holdt. For nylig skabte MIT’s Center for Advanced Virtuality lab en deepfake-video af den tidligere præsident Richard Nixon, der holdt en falsk tale om, at Apollo 11-månelandingsmissionen mislykkedes.
I tilfældet med det falske Nixon-klip trænede MIT-forskerne GAN-software på lydklip af Nixons taler, så den kunne lære at ændre en skuespillers stemme, så den lød som den tidligere præsidents stemme. American Express-forskerne derimod trænede deres GAN’er på interne data, der normalt bruges til opgaver som f.eks. beregning af forbrugerkredit-scoringer, så softwaren kunne skabe sine egne finansielle data.
Målet var, at GAN’erne skulle skabe falske transaktioner, “der ser normale ud”, sagde Dmitry Efimov, der er vicepræsident for forskning i maskinlæring hos American Express. Data med tydelige anomalier, såsom flere køb af toiletpapir i New York City den ene dag efterfulgt af et køb af en plæneklipper i Bakersfield, Californien, den næste dag, ville være mindre effektive.
Efimov afviste at kommentere, hvordan American Express specifikt kunne bruge syntetiske finansielle data til at forbedre opdagelsen af svig, idet han henviste til risikoen for, at kriminelle kunne bruge oplysningerne til deres fordel. Men generelt set gælder det, at jo flere finansielle data virksomheden har, jo mere kan den forbedre sine cybersikkerhedssystemer.
Andre organisationer, der forsker i at bruge GAN’er til at skabe syntetiske finansielle data, omfatter online detailhandelsgiganten Amazon. I 2018 offentliggjorde Amazon et dokument om at bruge softwaren til at skabe syntetiske e-handelstransaktioner, så dataene i sidste ende kan bruges til “produktanbefaling, målretning af tilbud og simulering af fremtidige begivenheder”.
Forskere på University of Michigan har også offentliggjort et papir om brug af GAN’er til at skabe falske ordrer på aktiemarkedet. Disse oplysninger kunne bruges til at hjælpe med at afsløre ordninger til manipulation af aktiemarkedet, forklarede Xintong Wang, ph.d.-studerende ved University of Michigan’s afdeling for datalogi.
Som American Express-forskere beskrev i et dokument, som de præsenterede på dette års årlige konference om neurale informationsbehandlingssystemer, er det dog stadig svært at vurdere, hvor effektive GAN’erne er til at skabe falske finansielle data.
Mennesker kan nemt se på AI-genererede billeder for at se, om de ligner den ægte vare. Men med finansielle data er teknologien så ny, at der ikke findes nogen “almindeligt accepterede teknikker”, som forskerne kan bruge til at bedømme softwaren, skriver de.
American Express-forskerne endte med at bruge statistiske teknikker til at analysere de A.I.-genererede data og fandt ud af, at resultaterne var gode, men ikke fantastiske. Forskerne har planer om at forfine deres teknikker til fremtidig forskning.
I sidste ende er forskerne optimistiske om, at deres arbejde vil betale sig. Som de beskrev i artiklen, er der mangel på offentligt tilgængelige finansielle data, som de kan bruge til at træne deres modeller til afsløring af svindel. A.I.-forskere kunne frigive deres syntetiske datasæt til offentligheden, hvilket ville være en fordel, fordi andre forskere kunne bygge videre på arbejdet, forklarede forskerne i artiklen. Men en talsmand fra Amex sagde, at den finansielle virksomhed ikke har nogen planer om at gøre dette.
“Kundernes personlige data og privatliv ville blive beskyttet ved hjælp af denne fremgangsmåde,” skrev forskerne.
Mere must-read tech-dækning fra Fortune:
- Den tidligere Google-chef Eric Schmidt advarer om Kinas “højteknologiske autoritarisme”
- Apple og Google udvider digitale værktøjer til kontaktsporing af coronavirus for at hjælpe med at fremskynde vedtagelsen
- Den bizarre grund til, at Amazon-chauffører hænger telefoner i træer nær Whole Foods
- Fortune’s 2020 40 Under 40
- Hvorfor poesi kan være den ultimative test for A.I.