¿Qué son los Deepfakes? ¿En qué pueden afectarnos?

El primer jueves de mayo se celebra el Día Mundial de la Contraseña, una jornada en la que recordar la necesidad de proteger nuestra información personal y profesional. Porque, cuanto más avanza la tecnología, más lugar se da a nuevas formas de ciberdelincuencia. Seguramente hayas oído hablar de phishing o ramsonware, ¿conoces también qué es “Deepfake”? Te lo contamos.

La Inteligencia Artificial ha logrado alcanzar un nivel de realismo casi total en la creación de imágenes. Pero la falta de vida en la mirada o unos movimientos faciales algo deshumanizados (lo que los profesionales de la animación conocen como “valle inquietante”) nos siguen ayudando a distinguir la ficción de la realidad. Una barrera que las últimas generaciones de humanoides nacidos del “machine learning” están volviendo cada vez más difusa. Y, como contrapartida, pueden convertirse en una herramienta muy valiosa para los ciberdelincuentes.

El término Deepfake está formado por la combinación de dos palabras en inglés. Por un lado “Deep”, que procede del concepto tecnológico del “Deep learning” o “aprendizaje profundo” y, por otro, “Fake”, que significa “falsificación”. Es, por tanto, la capacidad de aprendizaje mediante algoritmos y a partir de imágenes reales de generar imágenes falsas, casi idénticas a las auténticas.

Últimamente hemos visto aplicaciones de esta técnica en la publicidad, con una Lola Flores “resucitada” o en los vídeos virales de Tom Cruise en TikTok creados por un perfil anónimo. Pero más allá de usos comerciales o meramente lúdicos, se oculta un potencial delictivo que ya preocupa a las autoridades y al mundo de la empresa. El propio FBI señalaba a principios de 2021 al Deepfake como una de las nuevas formas de ciberataque empresarial. Como ejemplo, en marzo de 2019 se conoció el primer caso de fraude llevado a cabo mediante esta tecnología, cuando un falso director ejecutivo ordenó una transferencia por valor de 220.000 euros. Pero este tipo de engaños tiene incluso variantes, como el Deep Voice, que utiliza voces sintéticas que imita a las personas reales, pudiendo provocar serias brechas de seguridad en las compañías o generar confusión en muchos otros ámbitos.

Como siempre que surgen nuevas amenazas, aparecen también las armas para combatirlas. En este caso, las nuevas plataformas automatizadas de detección y filtrado de contenido se están desvelando como las herramientas más eficaces para identificar Deepfakes. Ya se han creado diferentes startups que desarrollan soluciones basadas en Blockchain o IA para neutralizar este tipo de ataques.

Ante esta creciente preocupación, cada vez son más las compañías que dedican recursos a implementar un plan de acción que las proteja. Según datos de Attestiv, el 29% de las empresas estadounidenses ya contaban en 2021 con una estrategia de este tipo, mientras el 25% tenía planificado implementarla y el 46% no disponía de ningún plan al respecto.

Al margen de los ataques empresariales, la ciberdelincuencia también afecta a los particulares y ya están dándose casos de extorsión utilizando la manipulación de imágenes para generar escenas falsas, por ejemplo, de contenido íntimo o pornográfico. De hecho, la proliferación de aplicaciones informáticas cada vez más sofisticadas y accesibles, provoca que no haya que tener conocimientos muy avanzados para crear vídeos con personajes “sintéticos”. Son los pros y los contras de los avances tecnológicos.