American Express está probando una tecnología que es más conocida por ayudar a crear vídeos deepfake -clips realistas de personas que dicen cosas que nunca han dicho realmente- para luchar contra el fraude financiero.
En este caso, la empresa está creando datos financieros falsos, como transacciones de tarjetas de crédito, que puede introducir en algoritmos de aprendizaje automático para ayudarles a detectar mejor las estafas con tarjetas de crédito y otros problemas. El objetivo es alertar más rápidamente a los clientes de que sus cuentas se han visto comprometidas, antes de que los delincuentes tengan la oportunidad de gastar en exceso.
En el centro de la investigación de American Express se encuentra la tecnología de Inteligencia Artificial conocida como redes generativas adversariales, o GAN, que se utilizan para crear vídeos falsos. En los últimos años, la tecnología ha mejorado hasta el punto de que puede ayudar a crear videoclips convincentes que engañen a los espectadores.
Hace dos años, por ejemplo, los investigadores de la Universidad de Washington utilizaron las GAN para crear un vídeo de aspecto realista del ex presidente Barack Obama dando un discurso que en realidad nunca pronunció. Más recientemente, el laboratorio del Centro de Virtualidad Avanzada del MIT creó un vídeo deepfake del ex presidente Richard Nixon dando un discurso falso sobre el fracaso de la misión de alunizaje del Apolo 11.
En el caso del clip falso de Nixon, los investigadores del MIT entrenaron el software GAN en clips de audio de los discursos de Nixon para que pudiera aprender a modificar la voz de un actor para que sonara como la del ex presidente. Los investigadores de American Express, por su parte, entrenaron sus GAN en datos internos que normalmente se utilizan para tareas como el cálculo de las puntuaciones de crédito de los consumidores, para que el software pudiera crear sus propios datos financieros.
El objetivo era que los GAN crearan transacciones falsas «que parecieran normales», dijo Dmitry Efimov, vicepresidente de investigación de aprendizaje automático de American Express. Los datos con anomalías evidentes, como las compras múltiples de papel higiénico en Nueva York un día, seguidas de la compra de una cortadora de césped en Bakersfield, California, al día siguiente, serían menos eficaces.
Efimov se negó a comentar cómo American Express podría utilizar específicamente los datos financieros sintéticos para mejorar la detección del fraude, citando el riesgo de que los delincuentes pudieran utilizar la información en su beneficio. Pero, en general, cuantos más datos financieros tenga la compañía, más podrá mejorar sus sistemas de ciberseguridad.
Otras organizaciones que están investigando el uso de GANs para crear datos financieros sintéticos incluyen al gigante minorista en línea Amazon. En 2018, Amazon publicó un documento sobre el uso del software para crear transacciones sintéticas de comercio electrónico para que los datos puedan eventualmente ser utilizados para «la recomendación de productos, la orientación de las ofertas y la simulación de eventos futuros.»
Investigadores de la Universidad de Michigan también han publicado un documento sobre el uso de GANs para crear órdenes falsas en el mercado de valores. Esa información podría utilizarse para ayudar a descubrir esquemas de manipulación del mercado de valores, explicó Xintong Wang, candidato a doctor en el departamento de ciencias de la computación de la Universidad de Michigan.
Aún así, como describieron los investigadores de American Express en un documento que presentaron en la Conferencia anual sobre Sistemas de Procesamiento de Información Neural de este año, es difícil evaluar la eficacia de las GAN para crear datos financieros falsos.
Los humanos pueden mirar fácilmente las imágenes generadas por la inteligencia artificial para ver si se parecen a las reales. Pero con los datos financieros, la tecnología es tan nueva que no hay «técnicas comúnmente aceptadas» que los investigadores puedan utilizar para calificar el software, escribieron.
Los investigadores de American Express acabaron utilizando técnicas estadísticas para analizar los datos generados por la inteligencia artificial y descubrieron que los resultados eran buenos, pero no excelentes. Los investigadores tienen previsto perfeccionar sus técnicas para futuras investigaciones.
En definitiva, los investigadores son optimistas en cuanto a que su trabajo dará sus frutos. Como describen en el artículo, no hay datos financieros disponibles públicamente que puedan utilizar para entrenar sus modelos de detección de fraudes. Los investigadores de Inteligencia Artificial podrían hacer públicos sus conjuntos de datos sintéticos, lo que sería beneficioso porque otros investigadores podrían basarse en el trabajo, explican los investigadores en el artículo. Pero un portavoz de Amex dijo que la empresa financiera no tiene planes de hacerlo.
«Los datos personales y la privacidad de los clientes estarían protegidos con este enfoque», escribieron los investigadores.
Más cobertura tecnológica imprescindible de Fortune:
- El ex jefe de Google, Eric Schmidt, advierte del «autoritarismo de alta tecnología» de China
- Apple y Google amplían las herramientas de rastreo digital de contactos de coronavirus para ayudar a acelerar su adopción
- La extraña razón por la que los conductores de Amazon cuelgan los teléfonos en los árboles cerca de Whole Foods
- Los 40 menores de 40 años de 2020 de Fortune
- Por qué la poesía puede ser la prueba definitiva para A.I.