El fraude con deepfakes está creciendo más rápido que las defensas

El impacto financiero del fraude con deepfakes también está aumentando. Según Deloitte, las pérdidas por fraude derivadas de la IA generativa podrían pasar de 12.300 millones de dólares en 2023 a 40.000 millones de dólares en 2027. Esto supone triplicar, y más, las pérdidas en apenas cuatro años, una trayectoria que debería captar la atención de todos los responsables de la prevención del fraude.

Debido a su versatilidad, el impacto de los deepfakes es generalizado. Un único rostro sintético puede utilizarse para suplantar a un titular de cuenta durante el proceso de alta, a un cliente durante la aprobación de una transferencia bancaria o a un directivo en un ataque de ingeniería social. Una vez que un estafador ha creado un deepfake convincente, lo adaptará, perfeccionará y reutilizará contra tantos objetivos e instituciones tanto como le sea posible.

Ese temor está justificado si se tiene en cuenta que la mayoría de los sistemas de verificación de identidad fueron diseñados para detectar documentos de identidad robados y documentos falsificados. La detección de prueba de vida (liveness detection) añadió una capa adicional para responder a la pregunta de si una persona estaba realmente presente y en directo, pero incluso esta tecnología se desarrolló bajo la premisa de que estaba analizando un vídeo real de una persona real. Detectar deepfakes requiere un conjunto de herramientas completamente diferente.

La creación de deepfakes está creciendo más rápido que la implantación de nuevas defensas, lo que está ampliando la brecha de preparación. Las instituciones siguen desplegando soluciones puntuales, como las comprobaciones de prueba de vida y la verificación documental, sin incorporar capas adicionales de protección capaces de abordar una nueva vulnerabilidad fundamental: los contenidos generados por IA que pueden resultar indistinguibles de los reales.

En algunos casos, sí.

Un deepfake avanzado que incorpore micro expresiones, movimientos oculares y consistencia temporal puede llegar a superar una prueba básica de prueba de vida, ya que incorpora precisamente los elementos que los algoritmos están programados para detectar. Y para lograrlo ni siquiera se requiere un deepfake con la calidad suficiente para engañar a un revisor humano. Un software entrenado a partir de unos pocos fragmentos de vídeo auténtico constituye un objetivo mucho más fácil.

La detección pasiva de prueba de vida, en la que los usuarios se toman un selfie sin realizar gestos activos, analiza el vídeo y el audio en busca de artefactos característicos del contenido generado por IA. Estos artefactos permiten responder a una pregunta diferente: si el propio vídeo es auténtico, en lugar de si la persona que aparece en él parece real porque se comporta de forma realista.

La tecnología de detección pasiva de prueba de vida es eficaz frente a los deepfakes porque, a pesar de su sofisticación, estos contienen rastros de manipulación digital detectables a nivel algorítmico. Incluso un modelo generativo capaz de engañar al ojo humano presentará diferencias imperceptibles en la iluminación, los reflejos oculares, la textura de la piel y/o la sincronización del audio. Estas son las huellas digitales que la detección pasiva de prueba de vida identifica como prueba de que el contenido ha sido creado por una red neuronal.

Los enfoques modernos de múltiples capas que incorporan detección pasiva de prueba de vida mantienen una tasa de aprobación del 99 % para los usuarios legítimos, al tiempo que filtran y rechazan imágenes deepfake. IDLive Face de Mitek, una de las principales tecnologías de detección de prueba de vida del mercado, es uno de los dos únicos sistemas pasivos que lograron bloquear el 100 % de los impostores en las evaluaciones realizadas por el Departamento de Seguridad Nacional de Estados Unidos. IDLive Face se integra fácilmente en todo el recorrido del cliente, proporcionando una seguridad más sólida en cada punto de contacto.

Muchas instituciones cometen el error de considerar la defensa frente a los deepfakes únicamente como un problema de detección. Una vez que cuentan con la capacidad de identificar qué vídeos son sintéticos, consideran que el problema está resuelto. Esta mentalidad conduce a la implantación de soluciones puntuales, como un nuevo algoritmo o herramienta de detección, que se añaden a su proceso de verificación de identidad.

Sin embargo, este enfoque basado exclusivamente en la detección falla por una razón fundamental: los estafadores innovan más rápido de lo que los sistemas de detección pueden adaptarse. Ahora avanzan al ritmo del desarrollo de la IA, y nuevas técnicas de deepfake aparecen cada vez con mayor frecuencia. Cada nueva técnica obliga a reentrenar, evaluar e implementar los algoritmos de detección, mientras los estafadores ya están poniendo a prueba sus siguientes métodos de evasión.

Por eso los sistemas avanzados de verificación de identidad no dependen de una única técnica. Ningún enfoque —ya sea la detección de prueba de vida, la verificación documental o el análisis del comportamiento— es suficiente por sí solo hoy en día. Para estar protegidas, las instituciones deben combinar el refuerzo de la seguridad del software, el análisis de datos y las comprobaciones de autenticidad impulsadas por IA dentro de una estrategia de defensa coherente y multicapa. Adoptar un enfoque por capas como este hace que el fraude mediante deepfakes resulte inviable para los estafadores: cuando tienen que superar simultáneamente la detección pasiva de prueba de vida, la comparación documental, la analítica del comportamiento y la validación biométrica, sus costes y la complejidad de los ataques aumentan drásticamente. Es entonces cuando suelen dirigir sus esfuerzos hacia objetivos más fáciles.

Los deepfakes son solo uno de los vectores dentro de una superficie de ataque mucho más amplia. Los ataques por inyección, en los que los estafadores manipulan los datos mientras circulan por los procesos de verificación de identidad, representan una amenaza paralela. Mientras que los deepfakes utilizan contenido manipulado en la fase de captura, los ataques por inyección presentan contenido alterado durante las fases de procesamiento o transmisión.

Por ello, una institución que haya implementado una excelente detección de deepfakes en la fase de captura puede seguir siendo vulnerable. De ahí la necesidad de una estrategia de defensa integral. Los deepfakes y los ataques por inyección requieren mecanismos de detección diferentes, así como una solución de defensa multicapa capaz de abordar simultáneamente múltiples vectores de amenaza.