American Express testează o tehnologie care este cel mai bine cunoscută pentru că ajută la crearea de videoclipuri deepfake – clipuri realiste ale unor persoane care spun lucruri pe care nu le-au spus niciodată cu adevărat – pentru a lupta împotriva fraudei financiare.
În acest caz, compania creează date financiare false, cum ar fi tranzacțiile cu carduri de credit, pe care le poate introduce în algoritmii de învățare automată pentru a-i ajuta să detecteze mai bine escrocheriile cu carduri de credit și alte probleme. Scopul este de a avertiza mai rapid clienții că conturile lor au fost compromise, înainte ca infractorii să aibă șansa de a face cheltuieli nebunești.
În centrul cercetărilor American Express se află tehnologia de inteligență artificială cunoscută sub numele de rețele adversariale generative, sau GAN, care sunt folosite pentru a crea videoclipuri deepfake. În ultimii ani, tehnologia s-a îmbunătățit până la punctul în care poate ajuta la crearea unor videoclipuri convingătoare care păcălesc spectatorii.
În urmă cu doi ani, de exemplu, cercetătorii de la Universitatea din Washington au folosit GAN-uri pentru a crea un videoclip cu aspect realist în care fostul președinte Barack Obama ținea un discurs pe care, de fapt, nu l-a ținut niciodată. Mai recent, laboratorul Center for Advanced Virtuality de la MIT a creat un videoclip deepfake cu fostul președinte Richard Nixon ținând un discurs fals despre eșecul misiunii de aselenizare Apollo 11.
În cazul clipului fals al lui Nixon, cercetătorii MIT au antrenat software-ul GAN pe clipuri audio ale discursurilor lui Nixon, astfel încât să poată învăța să modifice vocea unui actor pentru a suna ca cea a fostului președinte. Cercetătorii de la American Express, pe de altă parte, și-au antrenat GAN-urile pe date interne care sunt folosite în mod normal pentru sarcini precum calcularea scorurilor de credit pentru consumatori, astfel încât software-ul să poată crea propriile date financiare.
Obiectivul a fost ca GAN-urile să creeze tranzacții false „care să pară normale”, a declarat Dmitry Efimov, vicepreședintele departamentului de cercetare în domeniul învățării automate pentru American Express. Datele cu anomalii evidente, cum ar fi mai multe achiziții de hârtie igienică în New York într-o zi, urmate de o achiziție de mașină de tuns iarba în Bakersfield, California, în ziua următoare, ar fi mai puțin eficiente.
Efimov a refuzat să comenteze despre modul în care American Express ar putea folosi în mod specific datele financiare sintetice pentru a îmbunătăți detectarea fraudelor, citând riscul ca infractorii să folosească informațiile în beneficiul lor. Dar, în general, cu cât compania are mai multe date financiare, cu atât mai mult își poate îmbunătăți sistemele de securitate cibernetică.
Alte organizații care cercetează utilizarea GAN-urilor pentru a crea date financiare sintetice includ gigantul comerțului cu amănuntul online Amazon. În 2018, Amazon a publicat o lucrare despre utilizarea software-ului pentru a crea tranzacții sintetice de comerț electronic, astfel încât datele să poată fi utilizate în cele din urmă pentru „recomandarea de produse, direcționarea ofertelor și simularea evenimentelor viitoare”.
Cercetătorii de la Universitatea din Michigan au publicat, de asemenea, o lucrare despre utilizarea GAN-urilor pentru a crea ordine false pe piața bursieră. Aceste informații ar putea fi folosite pentru a ajuta la descoperirea schemelor de manipulare a pieței bursiere, a explicat Xintong Wang, candidat la doctorat în cadrul departamentului de informatică al Universității din Michigan.
Cu toate acestea, așa cum au descris cercetătorii de la American Express într-o lucrare pe care au prezentat-o la Conferința anuală din acest an privind sistemele de procesare a informațiilor neuronale, este dificil de evaluat cât de eficiente sunt GAN-urile în crearea de date financiare false.
Oamenii se pot uita cu ușurință la imaginile generate de I.A. pentru a vedea dacă acestea seamănă cu cele reale. Dar în cazul datelor financiare, tehnologia este atât de nouă încât nu există „tehnici general acceptate” pe care cercetătorii să le poată folosi pentru a evalua software-ul, au scris ei.
Cercetătorii de la American Express au sfârșit prin a folosi tehnici statistice pentru a analiza datele generate de I.A. și au constatat că rezultatele au fost bune, dar nu grozave. Cercetătorii plănuiesc să își perfecționeze tehnicile pentru cercetări viitoare.
În cele din urmă, cercetătorii sunt optimiști că munca lor va da roade. După cum au descris în lucrare, există o lipsă de date financiare disponibile public pe care le pot folosi pentru a-și antrena modelele de detectare a fraudelor. Cercetătorii din domeniul inteligenței artificiale ar putea face publice seturile lor de date sintetice, ceea ce ar fi benefic pentru că alți cercetători ar putea să se bazeze pe munca lor, au explicat cercetătorii în lucrare. Însă un purtător de cuvânt al Amex a declarat că firma financiară nu intenționează să facă acest lucru.
„Datele personale și confidențialitatea clienților ar fi protejate folosind această abordare”, au scris cercetătorii.
Mai multe informații despre tehnologie pe care trebuie să le citiți de la Fortune:
- Fostul șef al Google, Eric Schmidt, avertizează cu privire la „autoritarismul high-tech al Chinei”
- Apple și Google extind instrumentele digitale de depistare a contactului cu coronavirusul pentru a ajuta la accelerarea adoptării
- Motivul bizar pentru care șoferii Amazon agață telefoanele în copaci lângă Whole Foods
- Fortune’s 2020 40 Under 40
- De ce poezia poate fi testul suprem pentru A.I.