American Express is testing technology that helps best known for creating deepfake videos-realistic clips of people saying things they never really said to financial fraud.The American Expressは、金融詐欺に立ち向かうために、ディープフェイク動画を作成するのに役立つ技術を試しているようである。
この場合、同社はクレジットカード取引のような偽の金融データを作成し、それを機械学習アルゴリズムに送り込み、クレジットカード詐欺やその他の問題をよりよく発見できるようにします。 その目的は、犯罪者が散財する前に、アカウントが侵害されたことをより迅速に顧客に警告することです。
American Express の研究の中心は、Generative adversarial networks (GAN) として知られる A.I. テクノロジーで、これはフェイク ビデオの作成に使用されています。 近年、この技術は、視聴者を欺く説得力のあるビデオクリップを作成するのに役立つほど向上しました。
たとえば、2 年前、ワシントン大学の研究者は GAN を使用して、バラク・オバマ前大統領が実際には行っていないスピーチを行う、リアルなビデオを作成しました。 さらに最近では、MIT の Center for Advanced Virtuality 研究所が、リチャード・ニクソン元大統領がアポロ 11 号の月面着陸ミッションの失敗について偽のスピーチを行うディープフェイク動画を作成しました。
ニクソンの偽のクリップの場合、MIT 研究者はニクソンのスピーチのオーディオ クリップで GAN ソフトウェアを訓練し、元大統領と同様に聞こえるよう俳優の声を修正できるよう学習させています。 一方、アメリカン・エキスプレスの研究者は、消費者信用スコアの計算などのタスクに通常使用される内部データで GAN を訓練し、ソフトウェアが独自の金融データを作成できるようにしました。 ある日にニューヨークでトイレットペーパーを複数購入し、次の日にカリフォルニア州ベーカーズフィールドで芝刈り機を購入するなど、明らかに異常なデータは、あまり効果的ではありません。 しかし、一般的に言えば、同社がより多くの財務データを持てば持つほど、サイバーセキュリティ・システムを向上させることができるのです。
GANを使用して合成金融データを作成することを研究している他の組織には、オンライン小売大手のアマゾンが含まれます。 2018年、アマゾンはソフトウェアを使用して合成電子商取引を作成し、そのデータを最終的に “商品の推奨、取引のターゲティング、将来のイベントのシミュレーション” に使用できるようにすることについての論文を発表しました。
ミシガン大学の研究者も、GANを使用して偽の株式市場の注文を作成することについての論文を発表しています。 ミシガン大学コンピューター サイエンス学部の博士号候補である Xintong Wang 氏は、「その情報は、株式市場操作スキームの摘発に使用できるかもしれません」と説明します。
人間は、AIが生成した画像を見て、それが本物に似ているかどうかを簡単に確認することができます。 しかし、金融データの場合、この技術は非常に新しいため、研究者がソフトウェアを評価するために使用できる「一般に認められた技術」がないと、彼らは書いています。
アメリカン・エキスプレスの研究者たちは、結局、統計的手法を使ってAIが生成したデータを分析し、その結果は良好ではあるが、素晴らしいものではないことを発見しました。 研究者たちは、今後の研究のために技術を洗練させる予定です。
結局のところ、研究者たちは自分たちの仕事が報われると楽観視しています。 論文で説明したように、不正検出モデルの訓練に使用できる一般公開された金融データが不足しているのです。 A.I.研究者は合成データセットを一般に公開することができ、他の研究者がその研究を基にすることができるので有益だと、研究者は論文の中で説明している。 しかし、アメックスの広報担当者は、この金融会社にはそのような計画はないと述べている。
「顧客の個人データとプライバシーは、このアプローチで保護されるだろう」と、研究者は書いています。
- 元Googleチーフ、Eric Schmidt氏が中国の「ハイテク権威主義」に警告
- AppleとGoogle、デジタルコロナウィルスの接触追跡ツールを拡大、普及を加速
- Amazonドライバーがホールフーズ近くの木に電話を掛ける奇妙な理由
- Fortuneの2020 40 Under 40
- なぜ詩は、Aさんの最終テストかもしれないのか？I.