El Centro de Servicios Financieros de Deloitte estima que la inteligencia artificial generativa podría causar pérdidas por fraude de hasta 40 mil millones de dólares en Estados Unidos.
Por Revista Summa
El avance de la inteligencia artificial (IA) ha traído consigo innovaciones impresionantes, pero también ha abierto la puerta a nuevas formas de fraude como los deepfakes, esos videos generados por inteligencia artificial que imitan rostros y voces con increíble realismo.
Según un estudio de Kaspersky (2022), el 70% de los usuarios en Latinoamérica desconoce la existencia del deepfake. Además, una encuesta de Deloitte en 2024 reveló que el 25% de los ejecutivos de empresas reportó incidentes de deepfake dirigidos a datos financieros y contables en los últimos 12 meses. El Centro de Servicios Financieros de Deloitte estima que la inteligencia artificial generativa podría causar pérdidas por fraude de hasta 40 mil millones de dólares en Estados Unidos para 2027.
“En el mundo actual, que evoluciona de la mano de la tecnología, creer en lo que vemos y escuchamos ya no es tan simple. Desde captchas hasta verificaciones biométricas, la vida digitalizada nos está pidiendo constantemente que probemos que somos quienes decimos ser, especialmente frente al veloz crecimiento de los deepfake. Frente a este escenario, la prueba de vida (liveness detection) se ha convertido en un escudo digital fundamental, cuya función es asegurarse de que quien está al otro lado de la pantalla es una persona real y no una imagen manipulada. Este mecanismo busca proteger a los usuarios y es un filtro necesario para evitar fraudes y garantizar que nuestras identidades no sean suplantadas”, explica Alberto Juárez, vicepresidente global de verificación de identidad y servicios de confianza en Sovos.
A lo largo de los últimos años, diversos casos han demostrado el peligro de esta tecnología y las consecuencias económicas y emocionales para las víctimas.
1.El «Brad Pitt» falso que robó 830,000 euros
En Francia, una jubilada de 76 años cayó en una estafa sentimental donde los delincuentes usaron deepfake para suplantar a Brad Pitt. La víctima intercambió mensajes, videos y hasta realizó videollamadas con el supuesto actor, quien le pidió dinero para resolver problemas legales y concretar un encuentro. La mujer transfirió 830,000 euros antes de descubrir el engaño.
2.Elon Musk y el fraude de inversiones
Videos falsos del magnate Elon Musk se han viralizado en redes sociales, promoviendo inversiones fraudulentas. Steve Beauchamp, un jubilado de 82 años, invirtió 690,000 dólares tras ver un video deepfake de Musk, perdiendo todo su dinero. Estafas similares han usado la imagen del empresario para promocionar sorteos falsos de criptomonedas.
3.El deepfake del director financiero que costó 25 millones de dólares
La empresa británica Arup fue víctima de un fraude millonario cuando un empleado fue engañado por deepfakes que imitaban al director financiero y otros ejecutivos. Durante una videollamada falsa, el trabajador autorizó 15 transacciones por un total de 25 millones de dólares a cuentas fraudulentas en Hong Kong.
4.Joe Biden y el deepfake que buscó manipular elecciones
Un deepfake del presidente Joe Biden instó a los demócratas a no votar en las primarias de New Hampshire en enero de 2024. Este caso ejemplifica el uso de la IA para desinformación política, generando llamados para regular la tecnología en campañas electorales.
5.Ferrari detectó un deepfake de su CEO antes del fraude
En julio de 2024, un ejecutivo de Ferrari recibió mensajes y una llamada deepfake del supuesto CEO Benedetto Vigna, persuadiéndolo a firmar un acuerdo confidencial. Al notar inconsistencias en el tono de voz, el ejecutivo hizo una pregunta que solo el verdadero Vigna podía responder. Al no obtener respuesta, el fraude fue descubierto antes de que se concretara.
6.La falsa Princesa Leonor en TikTok
En diciembre de 2024, múltiples cuentas en TikTok suplantaron a la princesa Leonor de España, prometiendo ayuda económica a cambio de pagos de una «pequeña tasa». Las víctimas, principalmente en Latinoamérica, fueron estafadas con promesas de grandes sumas de dinero que nunca llegaron.
7.Médicos promoviendo curas falsas
La imagen de los reconocidos médicos británicos Michael Mosley y Hilary Jones fue manipulada para promover supuestas curas para la hipertensión y la diabetes. También en Sudáfrica, la imagen de la profesora Kgomotso Mathabe fue utilizada en deepfakes para vender productos fraudulentos de «potencia masculina».
8.Deepfakes y porno digital para atacar a mujeres
Según el estudio State of deepfakes 2023, elaborado por Security Heroes, el 98% de los videos deepfake en internet son pornográficos y el 99% de las víctimas son mujeres. Políticas, periodistas y activistas han sido atacadas con contenido falso para dañar su reputación y credibilidad pública.
Un caso conocido involucró a la activista climática Greta Thunberg con un video deepfake que se viralizó en YouTube, mostrándola supuestamente promoviendo el uso de «granadas veganas» y «misiles biodegradables» en la guerra. El video manipuló imágenes reales de una entrevista de Thunberg y generó desinformación masiva.
En Brasil, durante las elecciones municipales de 2024, varias candidatas denunciaron la manipulación de imágenes mediante IA para crear contenido erótico falso. La candidata Marina Helena encontró imágenes manipuladas suyas en sitios web pornográficos, destinadas a dañar su imagen política.
Recomendaciones para protegerse de los deepfakes
De acuerdo con el experto de Sovos, en los próximos cinco años, el conocimiento sobre los deepfake crecerá en la región, no solo por su popularidad en redes sociales, sino porque cada vez serán más utilizados en fraudes. Esto hará que la prueba de vida se convierta en un estándar en sectores como la banca, la salud y la educación.
“La misión está en fomentar el pensamiento crítico y el conocimiento digital para que las personas aprendan a detectar contenido falso y confíen en herramientas seguras para proteger su identidad. Además, las compañías deben informar y educar, ya que muchas veces el miedo viene de la falta de información”, enfatiza Alberto Juárez. Además, recomienda estas acciones para no ser la próxima víctima de suplantación de identidad y fraudes de deepfake:
1. Verifica antes de confiar: Si un video o mensaje te parece demasiado bueno para ser verdad, probablemente no lo sea. Busca siempre la fuente original y contrasta la información en medios confiables o sitios oficiales antes de compartirla o actuar en base a ella.
2. Protege tu imagen en redes sociales: Evita publicar fotos, videos y audios en exceso. Cuanta más información personal haya disponible, más fácil será que otros la usen para crear un deepfake convincente.
3. Aprende a utilizar herramientas de verificación: Existen plataformas gratuitas como InVID, FotoForensics o la búsqueda inversa de imágenes en Google que permiten detectar si un contenido ha sido alterado o ya circuló antes con otro contexto.
4. Mantén tu software y apps actualizados: Muchas soluciones de seguridad lanzan actualizaciones para mejorar la detección de fraudes. No pospongas estas actualizaciones; son clave para proteger tus dispositivos.
5. Informa y educa a quienes te rodean: Habla sobre los deepfakes con tu familia, amigos y colegas. Mientras más personas entiendan el problema, menos probable será que caigan en estafas o difundan contenido falso.
6. No envíes dinero sin verificar la identidad: Si alguien te pide dinero por mensaje, llamada o videollamada (incluso si parece un conocido o famoso) verifica la identidad por otro canal antes de hacer cualquier transferencia.
7. Utiliza proveedores con experiencia probada: Si tienes una empresa, trabaja con compañías o plataformas que tengan trayectoria comprobada en seguridad digital e identidad. Revisa sus certificaciones, casos de éxito y opiniones de clientes. Un proveedor confiable invierte constantemente en tecnología para detectar fraudes y proteger tu información.