American Express testuje technologię, która jest najlepiej znany za pomoc w tworzeniu deepfake filmy-realistyczne klipy ludzi mówi rzeczy, które nigdy naprawdę powiedział do walki z oszustw finansowych.
W tym przypadku firma tworzy fałszywe dane finansowe, takie jak transakcje kartą kredytową, które może wprowadzić do algorytmów uczenia maszynowego, aby lepiej pomóc im dostrzec oszustwa kart kredytowych i inne problemy. Celem jest szybsze ostrzeganie klientów o tym, że ich konta zostały naruszone, zanim przestępcy będą mieli szansę na wydanie pieniędzy.
Sercem badań American Express jest technologia A.I. znana jako generative adversarial networks, lub GANs, które są wykorzystywane do tworzenia fałszywych filmów. W ostatnich latach technologia ta udoskonaliła się do tego stopnia, że może pomóc w tworzeniu przekonujących klipów wideo, które oszukują widzów.
Dwa lata temu, na przykład, badacze z University of Washington wykorzystali GAN do stworzenia realistycznie wyglądającego wideo byłego prezydenta Baracka Obamy wygłaszającego przemówienie, którego w rzeczywistości nigdy nie wygłosił. Niedawno laboratorium MIT’s Center for Advanced Virtuality stworzyło deepfake video byłego prezydenta Richarda Nixona wygłaszającego fałszywe przemówienie o nieudanej misji lądowania na księżycu Apollo 11.
W przypadku fałszywego klipu Nixona, badacze MIT trenowali oprogramowanie GAN na klipach audio z przemówieniami Nixona, dzięki czemu mogło ono nauczyć się modyfikować głos aktora, aby brzmiał jak głos byłego prezydenta. Naukowcy American Express, z drugiej strony, szkolili swoje GAN na wewnętrznych danych, które są normalnie używane do zadań, takich jak obliczanie punktacji kredytów konsumenckich, aby oprogramowanie mogło tworzyć własne dane finansowe.
Celem było dla GAN-ów stworzenie fałszywych transakcji, „które wyglądają normalnie”, powiedział Dmitry Efimov, wiceprezes badań uczenia maszynowego dla American Express. Dane z oczywistymi anomaliami, takimi jak wielokrotne zakupy papieru toaletowego w Nowym Jorku jednego dnia, a następnie zakup kosiarki do trawy w Bakersfield, Kalifornia, następnego, byłyby mniej skuteczne.
Efimov odmówił komentarza na temat tego, jak American Express może konkretnie wykorzystać syntetyczne dane finansowe do poprawy wykrywania oszustw, powołując się na ryzyko, że przestępcy mogą wykorzystać informacje dla swoich korzyści. Ale ogólnie rzecz biorąc, im więcej danych finansowych firma ma, tym bardziej może poprawić swoje systemy cyberbezpieczeństwa.
Inne organizacje, które prowadzą badania nad wykorzystaniem GAN do tworzenia syntetycznych danych finansowych, obejmują giganta sprzedaży detalicznej online Amazon. W 2018 roku Amazon opublikował dokument o wykorzystaniu oprogramowania do tworzenia syntetycznych transakcji e-commerce, aby dane te mogły być ostatecznie wykorzystane do „rekomendacji produktów, kierowania ofert i symulacji przyszłych wydarzeń.”
Badacze z University of Michigan opublikowali również pracę o wykorzystaniu GAN do tworzenia fałszywych zleceń giełdowych. Informacje te mogłyby zostać wykorzystane do pomocy w odkryciu schematów manipulacji giełdowych, wyjaśnił Xintong Wang, doktorant na wydziale informatyki Uniwersytetu Michigan.
Jeszcze, jak opisali badacze American Express w pracy, którą przedstawili na tegorocznej dorocznej konferencji na temat Neural Information Processing Systems, trudno jest ocenić, jak skuteczne są GAN-y w tworzeniu fałszywych danych finansowych.
Człowiek może łatwo spojrzeć na A.I.-generowane obrazy, aby zobaczyć, czy przypominają one prawdziwe rzeczy. Ale z danych finansowych, technologia jest tak nowa, że nie ma „powszechnie akceptowanych technik”, które badacze mogą wykorzystać do oceny oprogramowania, napisali.
Badacze American Express zakończył się przy użyciu technik statystycznych do analizy A.I.-generowane dane i stwierdził, że wyniki były dobre, ale nie wielkie. Naukowcy planują udoskonalić swoje techniki dla przyszłych badań.
W ostatecznym rozrachunku, naukowcy są optymistami, że ich praca się opłaci. Jak opisali w artykule, brakuje publicznie dostępnych danych finansowych, które mogliby wykorzystać do szkolenia swoich modeli wykrywania oszustw. Badacze A.I. mogliby udostępnić publicznie swoje syntetyczne zestawy danych, co byłoby korzystne, ponieważ inni badacze mogliby wykorzystać ich pracę – wyjaśniają naukowcy w artykule. Ale rzecznik Amexu powiedział, że firma finansowa nie ma takich planów.
„Dane osobowe klientów i prywatność byłyby chronione przy użyciu tego podejścia,” naukowcy napisali.
Więcej must-read tech zasięg z Fortune:
- Były szef Google Eric Schmidt ostrzega przed „autorytaryzmem high-tech” Chin
- Apple i Google rozszerzają cyfrowe narzędzia do śledzenia kontaktu z koronawirusem, aby pomóc w szybszej adopcji
- Dziwny powód, dla którego kierowcy Amazona wieszają telefony na drzewach w pobliżu Whole Foods
- Fortune’s 2020 40 Under 40
- Dlaczego poezja może być ostatecznym testem dla A.I.