American Express testuje technologii, která je nejznámější tím, že pomáhá vytvářet deepfake videa – realistické klipy lidí, kteří říkají věci, které ve skutečnosti nikdy neřekli – v boji proti finančním podvodům.
V tomto případě společnost vytváří falešné finanční údaje, jako jsou transakce kreditními kartami, které může vložit do algoritmů strojového učení, aby jim lépe pomohla odhalit podvody s kreditními kartami a další problémy. Cílem je rychleji upozornit zákazníky, že jejich účty byly ohroženy, dříve než zločinci stihnou začít utrácet.
Jádrem výzkumu společnosti American Express je technologie umělé inteligence známá jako generativní adversariální sítě neboli GAN, která se používá k vytváření deepfake videí. V posledních letech se tato technologie zdokonalila natolik, že může pomoci vytvořit přesvědčivé videoklipy, které oklamou diváky.
Před dvěma lety například výzkumníci z Washingtonské univerzity použili GAN k vytvoření realisticky vypadajícího videa bývalého prezidenta Baracka Obamy, který přednesl projev, který ve skutečnosti nikdy nepronesl. Nedávno laboratoř Centra pro pokročilou virtualitu MIT vytvořila deepfake video, na kterém bývalý prezident Richard Nixon přednáší falešný projev o neúspěchu mise Apollo 11 při přistání na Měsíci.
V případě falešného Nixonova klipu výzkumníci MIT trénovali software GAN na zvukových klipech Nixonových projevů, aby se mohl naučit upravit hlas herce tak, aby zněl jako hlas bývalého prezidenta. Výzkumníci společnosti American Express zase trénovali svůj software GAN na interních datech, která se běžně používají pro úlohy, jako je výpočet úvěrového skóre spotřebitelů, takže software mohl vytvářet vlastní finanční data.
Cílem bylo, aby software GAN vytvářel falešné transakce, „které vypadají normálně“, řekl Dmitrij Efimov, viceprezident pro výzkum strojového učení společnosti American Express. Data se zjevnými anomáliemi, jako je například několikanásobný nákup toaletního papíru v New Yorku v jeden den a následný nákup sekačky na trávu v kalifornském Bakersfieldu, by byla méně účinná.
Efimov se odmítl vyjádřit k tomu, jak konkrétně by společnost American Express mohla využít syntetická finanční data ke zlepšení odhalování podvodů, s odkazem na riziko, že by zločinci mohli tyto informace využít ve svůj prospěch. Obecně však platí, že čím více finančních dat společnost má, tím více může zlepšit své systémy kybernetické bezpečnosti.
Mezi další organizace, které zkoumají využití GAN k vytváření syntetických finančních dat, patří například internetový maloobchodní gigant Amazon. V roce 2018 společnost Amazon zveřejnila dokument o využití softwaru k vytváření syntetických transakcí v elektronickém obchodě, aby bylo možné tato data případně využít k „doporučování produktů, cílení obchodů a simulaci budoucích událostí“.
Výzkumníci z Michiganské univerzity také publikovali článek o využití GAN k vytváření falešných burzovních objednávek. Tyto informace by mohly být využity k odhalování manipulačních schémat na burze, vysvětlil Xintong Wang, doktorand na katedře informatiky Michiganské univerzity.
Přesto, jak popsali výzkumníci společnosti American Express v článku, který prezentovali na letošní výroční konferenci o systémech zpracování neuronové informace, je obtížné vyhodnotit, jak efektivní jsou GAN při vytváření falešných finančních dat.
Lidé se mohou snadno podívat na obrázky vytvořené umělou inteligencí a zjistit, zda se podobají skutečnosti. V případě finančních dat je však tato technologie tak nová, že neexistují žádné „běžně přijímané techniky“, které by výzkumníci mohli použít ke známkování softwaru, napsali.
Výzkumníci z American Express nakonec použili statistické techniky k analýze dat generovaných A.I. a zjistili, že výsledky jsou dobré, ale ne skvělé. Pro budoucí výzkum plánují své techniky zdokonalit.
Výzkumníci jsou nakonec optimističtí a věří, že se jejich práce vyplatí. Jak popsali v článku, je nedostatek veřejně dostupných finančních dat, která by mohli použít k trénování svých modelů pro detekci podvodů. Výzkumníci v oblasti umělé inteligence by mohli své soubory syntetických dat zveřejnit, což by bylo přínosné, protože by na jejich práci mohli navázat další výzkumníci, vysvětlují výzkumníci v článku. Mluvčí společnosti Amex však uvedl, že finanční společnost nic takového neplánuje.
„Osobní údaje zákazníků a jejich soukromí by byly tímto přístupem chráněny,“ napsali výzkumníci.
Další povinné technologické zpravodajství z Fortune:
- Bývalý šéf Googlu Eric Schmidt varuje před čínským „high-tech autoritářstvím“
- Apple a Google rozšiřují nástroje pro sledování kontaktů s digitálními koronaviry, aby pomohly urychlit jejich přijetí
- Bizarní důvod, proč řidiči Amazonu věší telefony na stromy poblíž Whole Foods
- Fortune’s 2020 40 Under 40
- Proč může být poezie pro A.I.