American Express testaa teknologiaa, joka tunnetaan parhaiten siitä, että se auttaa luomaan deepfake-videoita – realistisia pätkiä ihmisistä, jotka sanovat asioita, joita eivät ole koskaan oikeasti sanoneet – rahoitusalan petosten torjumiseksi.
Tässä tapauksessa yhtiö luo väärennettyjä taloustietoja, kuten luottokorttitapahtumia, joita se voi syöttää koneoppimisalgoritmeille, jotta ne voivat paremmin havaita luottokorttihuijaukset ja muut ongelmat. Tavoitteena on varoittaa asiakkaita nopeammin siitä, että heidän tilinsä on vaarantunut, ennen kuin rikollisilla on tilaisuus ryhtyä tuhlaamaan rahaa.
American Expressin tutkimuksen ytimessä on tekoälyteknologia, joka tunnetaan nimellä generative adversarial networks eli GAN, jota käytetään deepfake-videoiden luomiseen. Viime vuosina teknologia on kehittynyt niin pitkälle, että sen avulla voidaan luoda vakuuttavia videoklippejä, jotka huijaavat katsojia.
Kaksi vuotta sitten esimerkiksi Washingtonin yliopiston tutkijat käyttivät GAN-verkkoja luodakseen realistiselta näyttävän videon entisestä presidentistä Barack Obamasta pitämässä puhetta, jota hän ei koskaan pitänyt. Hiljattain MIT:n Center for Advanced Virtuality -laboratorio loi deepfake-videon entisestä presidentistä Richard Nixonista, joka piti väärennetyn puheen Apollo 11:n kuuhun laskeutumisen epäonnistumisesta.
Väärennetyn Nixon-pätkän tapauksessa MIT:n tutkijat kouluttivat GAN-ohjelmiston Nixonin puheiden äänileikkeillä, jotta se oppi muokkaamaan näyttelijän äänen kuulostamaan entisen presidentin ääneltä. American Expressin tutkijat puolestaan kouluttivat GAN-ohjelmistonsa sisäisillä tiedoilla, joita käytetään tavallisesti esimerkiksi kuluttajaluottopisteiden laskemiseen, jotta ohjelmisto voisi luoda omia taloudellisia tietojaan.
Tavoitteena oli, että GAN-ohjelmistot loisivat väärennettyjä transaktioita, jotka ”näyttäisivät normaaleilta”, American Expressin koneoppimisen tutkimuksesta vastaava varajohtaja Dmitri Efimov sanoi. Tieto, jossa on selviä poikkeavuuksia, kuten useat WC-paperin ostot New Yorkissa yhtenä päivänä ja seuraavana päivänä ruohonleikkurin osto Bakersfieldissä, Kaliforniassa, eivät olisi yhtä tehokkaita.
Efimov kieltäytyi kommentoimasta sitä, miten American Express voisi nimenomaan käyttää synteettistä talousdataa parantaakseen petosten havaitsemista, vedoten riskiin, että rikolliset voisivat käyttää tietoja hyödykseen. Mutta yleisesti ottaen mitä enemmän taloustietoja yhtiöllä on, sitä enemmän se voi parantaa kyberturvallisuusjärjestelmiään.
Muita organisaatioita, jotka tutkivat GANien käyttöä synteettisen talousdatan luomiseen, ovat muun muassa verkkokauppajätti Amazon. Vuonna 2018 Amazon julkaisi paperin ohjelmiston käyttämisestä synteettisten verkkokauppatapahtumien luomiseen, jotta tietoja voitaisiin lopulta käyttää ”tuotesuosituksiin, tarjousten kohdentamiseen ja tulevien tapahtumien simulointiin”.
Michiganin yliopiston tutkijat ovat myös julkaisseet paperin GANien käytöstä väärennettyjen pörssitilausten luomiseen. Tätä tietoa voitaisiin käyttää auttamaan pörssin manipulointijärjestelmien paljastamisessa, selitti Xintong Wang, Michiganin yliopiston tietojenkäsittelytieteen laitoksen tohtorikoulutettava.
Mutta kuten American Expressin tutkijat kuvailivat tämän vuoden vuosittaisessa Neural Information Processing Systems -konferenssissa esittelemässään paperissa, on vaikea arvioida, kuinka tehokkaasti GANit luovat väärennettyjä rahoitustietoja.
Ihmiset voivat helposti katsoa tekoälyn luomia kuvia nähdäkseen, muistuttavatko ne aitoa. Mutta talousdatan kohdalla tekniikka on niin uutta, että ei ole olemassa ”yleisesti hyväksyttyjä tekniikoita”, joita tutkijat voisivat käyttää ohjelmistojen luokitteluun, he kirjoittivat.
American Expressin tutkijat päätyivät käyttämään tilastollisia tekniikoita analysoidakseen tekoälyn tuottamaa dataa ja totesivat, että tulokset olivat hyviä mutta eivät loistavia. Tutkijat aikovat tarkentaa tekniikoitaan tulevaa tutkimusta varten.
Loppujen lopuksi tutkijat ovat toiveikkaita, että heidän työnsä tuottaa tulosta. Kuten he kuvailivat paperissa, julkisesti saatavilla olevasta talousdatasta on puutetta, jota he voivat käyttää petostentunnistusmalliensa kouluttamiseen. Tekoälytutkijat voisivat julkaista synteettiset tietokokonaisuutensa julkisuuteen, mikä olisi hyödyllistä, koska muut tutkijat voisivat rakentaa työnsä pohjalta, tutkijat selittivät paperissa. Amexin tiedottajan mukaan rahoitusyhtiöllä ei kuitenkaan ole tällaisia suunnitelmia.
”Asiakkaiden henkilötiedot ja yksityisyys olisivat suojattuja tällä lähestymistavalla”, tutkijat kirjoittivat.
Lisää luettavaa teknologiasta Fortunesta:
- Entinen Google-päällikkö Eric Schmidt varoittaa Kiinan ”korkean teknologian autoritaarisuudesta”
- Apple ja Google laajentavat digitaalisia koronaviruksen kontaktinjäljitystyökaluja auttaakseen nopeuttamaan käyttöönottoa
- Outo syy siihen, miksi Amazonin kuljettajat ripustavat puhelimia puihin Whole Foodsin lähelle
- Fortune’s 2020 40 Under 40
- Miksi runous voi olla äärimmäinen koe A.I.