Un reciente estudio de Kaspersky ha revelado una alarmante realidad en América Latina: la mayoría de los usuarios de internet en la región desconoce qué son los deepfakes y cómo identificarlos. Esta situación plantea serios desafíos en términos de seguridad digital y desinformación, especialmente en países como Colombia, donde el 63% de la población ignora esta tecnología.
El peligroso desconocimiento de los deepfakes en la región
Los deepfakes, o “ultra falsos”, son contenidos multimedia manipulados mediante inteligencia artificial para crear videos, imágenes, audios o textos falsos pero extremadamente realistas. Según la encuesta “La infodemia y su impacto en la vida digital” realizada por Kaspersky en asociación con CORPA, el 70% de los usuarios latinoamericanos desconoce la existencia de esta táctica.
El término DeepFake se refiere a una técnica avanzada de manipulación digital que utiliza inteligencia artificial para crear contenido sintético altamente realista. Según WeLiveSecurity, los DeepFakes son generados mediante técnicas de aprendizaje profundo, específicamente utilizando redes neuronales profundas.
Estas redes se entrenan con grandes volúmenes de datos para producir imágenes, vídeos y audios manipulados que presentan a personas diciendo o haciendo cosas que en realidad nunca hicieron. Las redes generativas adversarias (GAN) y las redes neuronales convolucionales (CNN) son fundamentales en este proceso. Las GAN consisten en dos redes neuronales que trabajan en conjunto: una crea el contenido y la otra lo refina, mientras que las CNN identifican y replican patrones en imágenes para mejorar la realista apariencia de los DeepFakes.
El ranking de desconocimiento por país según el informe de kaspersky:
- Perú: 75%
- México y Chile: 72% cada uno
- Argentina: 67%
- Brasil: 66%
- Colombia: 63%
Dmitry Bestuzhev, director del Equipo de Investigación y Análisis para América Latina en Kaspersky, advierte que este desconocimiento podría facilitar el éxito de tácticas de ingeniería social y fraude que utilizan esta tecnología.
La dificultad para detectar contenido manipulado
Más allá del desconocimiento general, el estudio también revela que la mayoría de los latinoamericanos (67%) no puede reconocer cuando un video ha sido editado digitalmente usando técnicas de deepfake. Los colombianos encabezan esta lista con un 72% de incapacidad para detectar estos videos, seguidos de cerca por brasileños (71%) y chilenos (70%).
Esta situación se torna aún más preocupante considerando que los deepfakes no se limitan a videos compartidos en redes sociales o WhatsApp. Se han reportado casos de fraude en plataformas de búsqueda de empleo que utilizan esta tecnología para crear perfiles falsos, con el objetivo de engañar y extraer información personal de las víctimas.
Implicaciones y riesgos emergentes
El uso indebido de deepfakes presenta múltiples riesgos:
- Atentados contra la integridad y credibilidad de las personas mediante videos falsos.
- Manipulación de imágenes y sonidos para eludir contraseñas biométricas.
- Creación de perfiles falsos en plataformas profesionales para estafas y robo de información.
- Imitación de voces de empresarios o figuras públicas para desinformación y fraudes.
Bestuzhev señala que, “La técnica de AI aplicada a expresiones fáciles en sí no es maliciosa, ya que permite a la industria del cine, por ejemplo, ofrecer al público experiencias cada vez más asombrosas. Sin embargo, el uso de deepfakes (el abuso del AI) tiende a volverse cada vez más imperceptible y, como pasa con cualquier tecnología innovadora, su proliferación conlleva a riesgos y consecuencias”.