Deepfakes: falsificar la realidad con Inteligencia Artificial | MIOTI

Deepfakes: falsificar la realidad con Inteligencia Artificial

¿Te imaginas convertirte en Tom Cruise o tener la voz de Aretha Franklin? conoce los Deepfakes, la tecnología que está revolucionando Internet y su riesgo para los políticos, celebrities y medios de comunicación.

¿Qué son los Deepfakes?

Los Deepfakes son contenido multimedia generado o alterado por redes neuronales profundas. Es decir, a través de Inteligencia Artificial podemos generar una imagen de alguien que no existe, modificar sus atributos o incluso suplantar su identidad.

Sin embargo, aunque los Deepfakes pueden tener aplicaciones legítimas en el cine y el entretenimiento, también pueden ser utilizados de forma malintencionada para difundir información falsa y engañar a las personas.

Tipos

  1. Síntesis de caras: generar caras que no existen de forma aleatoria.
  2. Modificación de atributos: modificar diferentes atributos de una cara.
  3. Intercambio de identidad: reemplazar una cara por otra.
  4. Intercambio de expresión:  reemplazar las expresión facial de una persona por la de otra.

Cronología

2017: Aunque ya existían técnicas de manipulación de caras o de reconocimiento de imágenes, no fue hasta 2017 cuando surge el término de Deepfake, con las primeras publicaciones y artículos científicos hablando sobre esta tecnología.

2018: Llega el boom, pasando de lanzar 3 papers al año a 250. Esto se debe, en especial, a que estas tecnologías de Inteligencia Artificial y de Computer Vision se desarrollan bajo modelos de software libre en los que el código y los algoritmos se publican en Internet y son accesibles a todo el mundo.

2019: este fenómeno continúa en auge y surgen otras alternativas de software mucho más profesionales y sofisticadas para hacer Deep fakes como Faceswap y DeepFaceLab, así como la primera página web, DeepfakesWeb.com. El año finaliza con 755 papers publicados.

2020: Manteniendo esta dinámica de crecimiento, se llega a 1.460 papers publicados sobre este área de Computer Vision, convirtiéndose en una de las áreas de conocimiento de Inteligencia Artificial donde más papers se están publicando.

Cronología Deepfakes

¿Cómo funcionan?

Uno de los Deepfakes más comunes es el intercambio de identidades. Para ello, se requiere del acceso a una gran cantidad de material audiovisual de alta calidad, por lo que celebrities, políticos y demás personajes públicos sufren una elevada exposición debido a la mayor disponibilidad de estos recursos.

Diego García, profesor de Machine Learning & Computer Vision en nuestro Máster en Data Science & Deep Learning, nos habla de como funcionan los Deep fakes en la masterclass «Deepfakes: falsificar la realidad con Inteligencia Artificial».

Según Diego, aunque el proceso tiene pequeñas variaciones, se basa en el siguiente flujo:

  1. Disponer de un vídeo de entrada para utilizarlo como base.
  2. Utilizar un algoritmo de reconocimiento facial sobre el vídeo de entrada que permita identificar, de manera precisa, las caras y sus puntos constitutivos de interés.
  3. Establecer un mapa en 2D (para la mayor parte de los algoritmos) o en 3D (para los algoritmos más profesionales) que facilite la precisión de las posiciones de la cara.
  4. Mediante las posiciones de la cara y utilizando otro tipo de caras, reemplazar una cara por otra. Si se identifican correctamente los puntos constitutivos de la cara (nariz, boca, ojos, etc), se podría generar una única imagen a partir de dos caras.

A día de hoy, para realizar un Deepfake realista, se requiere de un componente manual importante aunque ya existen diversas técnicas de automatización.

Principales desafíos

Relativos al proceso de entrenamiento 

  1. Generación de conjuntos de entrenamiento: alineamiento y detección de rostro.
  2. Generalización: utilizar los modelos de Inteligencia Artificial que utilizamos para resolver un problema, en la resolución de otros distintos sin tener que entrenarlos.

Relativos a la generación de resultados

  1. Tratamiento de oclusiones
  2. Fugas de identidad
  3. Coherencia temporal

¿Cómo afectan a la percepción de la información?

Hasta hace relativamente poco, el vídeo y las imágenes se consideraban pruebas fehacientes, pero  ¿cúanta credibilidad tienen en la actualidad? La capacidad de manipular imágenes y vídeos fotorealistas incide profundamente en la forma en la que perdibimos el mundo que nos rodea.

Este fenómeno, está haciendo cada vez más dificil identificar las noticias reales de las fake y afecta directamente a los medios de comunicación. Según el «I estudio sobre el impacto de las Fake News en España» elaborado por la Universidad Complutense de Madrid, cerca del 89% de la población española se cree las noticias fake.

Como mencionábamos antes, los personajes públicos están más expuestos a los DeepFakes, que en muchos casos no se realizan con buenas intenciones. Desde su boom, nos hemos encontrado con vídeos virales empleando esta tecnología, como cuando el expresidente de Estados Unidos, Barack Obama, aparecía en un vídeo diciendo que «President Trump is a total and complete dipshit».

Sin embargo, en este caso formaba parte de una advertencia del actor Jordan Peele, quien pone la voz a Obama con el propósito de advertir a la población sobre la veracidad de lo que vemos en Internet. “This is a dangerous time. Moving forward, we need to be more vigilant with what we trust from the internet”, decía el actor.

¿Quieres aprender a desarrollar esta tecnología revolucionaria? en nuestro Máster en Deep Learning aprenderás a aplicar las últimas técnicas de Machine Learning y Deep Learning, base para disciplinas como el análisis predictivo, reconocimiento de imágenes, voz y textos. Infórmate aquí.

3'
Mioti logo