Az American Express olyan technológiát tesztel, amely leginkább a deepfake videók – olyan emberek valósághű klipjei, akik olyan dolgokat mondanak, amelyeket valójában soha nem mondtak – készítéséről ismert a pénzügyi csalások elleni küzdelemben.
Ez esetben a vállalat hamis pénzügyi adatokat, például hitelkártya-tranzakciókat hoz létre, amelyeket betáplálhat a gépi tanulási algoritmusokba, hogy jobban felismerjék a hitelkártyacsalásokat és más problémákat. A cél az, hogy gyorsabban figyelmeztessék az ügyfeleket arra, hogy a számlájukat veszélyeztetik, mielőtt a bűnözőknek esélyük lenne a költekezésre.
Az American Express kutatásának középpontjában az úgynevezett generatív adversariális hálózatok (GAN) nevű M.I. technológia áll, amelyet a deepfake videók létrehozására használnak. Az elmúlt években ez a technológia olyannyira fejlődött, hogy segítségével a nézőket megtévesztő, meggyőző videoklipek hozhatók létre.
Két évvel ezelőtt például a Washingtoni Egyetem kutatói a GAN-okat arra használták, hogy valósághűnek tűnő videót készítsenek Barack Obama volt elnökről, aki olyan beszédet mondott, amelyet valójában soha nem is tartott. Nemrégiben az MIT Center for Advanced Virtuality laboratóriuma egy mélyen hamisított videót készített Richard Nixon volt elnökről, aki hamis beszédet mondott az Apollo-11 holdraszállásának kudarcáról.
A hamis Nixon-klip esetében az MIT kutatói a GAN-szoftvert Nixon beszédeinek hangfelvételein képezték ki, hogy megtanulja módosítani egy színész hangját, hogy úgy hangozzon, mint a volt elnöké. Az American Express kutatói viszont olyan belső adatokon képezték ki a GAN-okat, amelyeket általában olyan feladatokhoz használnak, mint például a fogyasztói hitelpontszámok kiszámítása, hogy a szoftver saját pénzügyi adatokat tudjon létrehozni.
A cél az volt, hogy a GAN-ok olyan hamis tranzakciókat hozzanak létre, “amelyek normálisnak tűnnek” – mondta Dmitry Efimov, az American Express gépi tanulási kutatásért felelős alelnöke. A nyilvánvaló anomáliákat tartalmazó adatok, mint például a többszörös WC-papír-vásárlás New Yorkban az egyik napon, majd egy fűnyíróvásárlás a kaliforniai Bakersfieldben a következő napon, kevésbé lennének hatékonyak.
Efimov nem kívánt nyilatkozni arról, hogy az American Express konkrétan hogyan használhatná a szintetikus pénzügyi adatokat a csalások felderítésének javítására, arra a kockázatra hivatkozva, hogy a bűnözők a saját hasznukra használhatják az információkat. Általánosságban azonban elmondható, hogy minél több pénzügyi adattal rendelkezik a vállalat, annál jobban tudja fejleszteni kiberbiztonsági rendszereit.
A többi olyan szervezet, amely a GAN-ok felhasználását kutatja szintetikus pénzügyi adatok létrehozására, többek között az online kiskereskedelmi óriás, az Amazon. Az Amazon 2018-ban publikált egy tanulmányt arról, hogy a szoftvert szintetikus e-kereskedelmi tranzakciók létrehozására használják, hogy az adatokat végül “termékajánlásra, célzott ajánlatokra és jövőbeli események szimulálására” lehessen használni.
A Michigani Egyetem kutatói szintén publikáltak egy tanulmányt arról, hogy a GAN-okat hamis tőzsdei megbízások létrehozására használják. Ezt az információt fel lehetne használni a tőzsdei manipulációs rendszerek leleplezésére, magyarázta Xintong Wang, a Michigani Egyetem informatikai tanszékének doktorjelöltje.
Mégis, ahogy az American Express kutatói az idei Neural Information Processing Systems éves konferenciáján bemutatott tanulmányukban leírták, nehéz felmérni, hogy a GAN-ok mennyire hatékonyak a hamis pénzügyi adatok létrehozásában.
Az emberek könnyen megnézhetik az M.I. által generált képeket, hogy lássák, hasonlítanak-e a valódira. De a pénzügyi adatok esetében a technológia annyira új, hogy nincsenek “általánosan elfogadott technikák”, amelyeket a kutatók a szoftverek osztályozására használhatnának, írták.
Az American Express kutatói végül statisztikai módszerekkel elemezték az M.I.-generált adatokat, és úgy találták, hogy az eredmények jók, de nem nagyszerűek. A kutatók azt tervezik, hogy finomítják technikáikat a jövőbeli kutatásokhoz.
A kutatók végül optimisták, hogy munkájuk kifizetődik. Mint a tanulmányban leírták, hiányoznak a nyilvánosan elérhető pénzügyi adatok, amelyeket felhasználhatnak a csalásfelismerő modelljeik betanításához. Az AI-kutatók nyilvánosságra hozhatnák szintetikus adatkészleteiket, ami azért lenne előnyös, mert más kutatók építhetnének a munkájukra – magyarázták a kutatók a tanulmányban. Az Amex szóvivője azonban azt mondta, hogy a pénzügyi cég nem tervezi ezt.
“Az ügyfelek személyes adatai és magánélete védve lenne ezzel a megközelítéssel” – írták a kutatók.
További kötelezően olvasandó technológiai tudósítás a Fortune-tól:
- A volt Google-vezér Eric Schmidt a kínai “high-tech tekintélyelvűségre” figyelmeztet
- Az Apple és a Google kibővíti a digitális koronavírus-kontaktkereső eszközöket, hogy segítse az elfogadás felgyorsítását
- A bizarr ok, amiért az Amazon vezetői a Whole Foods közelében a fákra akasztják a telefonokat
- Fortune 2020 40 Under 40
- Miért a költészet lehet a végső teszt A.I.