American Express está a testar tecnologia que é mais conhecida por ajudar a criar vídeos deepfake – clips realistas de pessoas que dizem coisas que nunca disseram – para combater a fraude financeira.
Neste caso, a empresa está criando dados financeiros falsos como transações de cartão de crédito que pode alimentar em algoritmos de aprendizado de máquina para melhor ajudá-los a detectar fraudes de cartão de crédito e outros problemas. O objetivo é alertar mais rapidamente os clientes de que suas contas foram comprometidas, antes que os criminosos tenham a chance de continuar gastando.
No coração da pesquisa da American Express está a tecnologia A.I. conhecida como redes de adversários generativos, ou GANs, que são usadas para criar vídeos profundamente falsos. Nos últimos anos, a tecnologia melhorou ao ponto de ajudar a criar videoclipes convincentes que enganam os espectadores.
Há dois anos, por exemplo, os pesquisadores da Universidade de Washington usaram GANs para criar um vídeo com aspecto realista do ex-presidente Barack Obama fazendo um discurso que ele nunca fez. Mais recentemente, o Center for Advanced Virtuality lab do MIT criou um vídeo falso do ex-presidente Richard Nixon dando um discurso falso sobre a missão de aterragem na lua da Apollo 11 falhando.
No caso do clipe falso do Nixon, os pesquisadores do MIT treinaram o software GAN em clipes de áudio dos discursos do Nixon para que ele pudesse aprender a modificar a voz de um ator para soar como a do ex-presidente. Os pesquisadores da American Express, por outro lado, treinaram seus GANs em dados internos que são normalmente utilizados para tarefas como o cálculo de pontuação de crédito ao consumidor, para que o software pudesse criar seus próprios dados financeiros.
O objetivo era que os GANs criassem transações falsas “que pareçam normais”, disse Dmitry Efimov, o vice-presidente de pesquisa de aprendizado de máquinas da American Express. Dados com anomalias óbvias, como múltiplas compras de papel higiênico em Nova York em um dia, seguido de uma compra de cortador de grama em Bakersfield, Califórnia, no dia seguinte, seriam menos eficazes.
Efimov se recusou a comentar sobre como a American Express poderia especificamente utilizar dados financeiros sintéticos para melhorar a detecção de fraudes, citando o risco de que os criminosos pudessem utilizar as informações em seu benefício. Mas, em geral, quanto mais dados financeiros a empresa tem, mais ela pode melhorar seus sistemas de ciber-segurança.
Outras organizações que estão pesquisando usando GANs para criar dados financeiros sintéticos incluem a gigante do varejo online Amazon. Em 2018, a Amazon publicou um artigo sobre o uso do software para criar transações de comércio eletrônico sintético, para que os dados pudessem eventualmente ser usados para “recomendação de produtos, direcionamento de negócios e simulação de eventos futuros”.
Os pesquisadores da Universidade de Michigan também publicaram um artigo sobre o uso de GANs para criar falsas ordens do mercado de ações. Essa informação poderia ser usada para ajudar a descobrir esquemas de manipulação do mercado de ações, explicou Xintong Wang, candidato a Ph.D. no departamento de ciências da computação da Universidade de Michigan.
Até agora, como os pesquisadores da American Express descreveram em um artigo que apresentaram na Conferência anual deste ano sobre Sistemas de Processamento de Informações Neurais, é difícil avaliar quão eficazes os GANs são na criação de dados financeiros falsos.
Humans podem facilmente olhar para imagens geradas por A.I.- para ver se elas se parecem com a coisa real. Mas com dados financeiros, a tecnologia é tão nova que não existem “técnicas comummente aceites” que os investigadores possam usar para classificar o software, eles escreveram.
Os investigadores da American Express acabaram por utilizar técnicas estatísticas para analisar os dados gerados por A.I.- e descobriram que os resultados eram bons mas não excelentes. Os pesquisadores planejam refinar suas técnicas para futuras pesquisas.
Ultimamente, os pesquisadores estão otimistas de que seu trabalho vai valer a pena. Como eles descreveram no artigo, há uma falta de dados financeiros disponíveis publicamente que eles podem usar para treinar seus modelos de detecção de fraude. Os investigadores A.I. poderiam divulgar os seus conjuntos de dados sintéticos ao público, o que seria benéfico porque outros investigadores poderiam desenvolver o seu trabalho, explicaram os investigadores no artigo. Mas um porta-voz da Amex disse que a empresa financeira não tem planos para o fazer.
“Os dados pessoais e a privacidade dos clientes seriam protegidos usando esta abordagem”, escreveram os pesquisadores.
Mais cobertura técnica de leitura obrigatória da Fortune:
- O chefe do Google Eric Schmidt avisa sobre o “autoritarismo de alta tecnologia” da China
- A Apple e o Google expandem as ferramentas de rastreamento de contato do coronavírus digital para ajudar a acelerar a adoção
- A razão bizarra pela qual os motoristas da Amazon estão pendurando telefones em árvores perto de Whole Foods
- Fortune’s 2020 40 Under 40
- Por que a poesia pode ser o teste final para A.I.