que es un deepfake
Robot con la parte izquierda neuralizada.

¿Qué Es Un Deepfake? ¿Cómo Detectarlo?

Los deepfakes representan uno de los desarrollos más fascinantes y preocupantes de la inteligencia artificial moderna, combinando avances tecnológicos con riesgos evidentes para la sociedad digital actual. Estas creaciones digitales manipuladas mediante técnicas avanzadas de IA permiten suplantar identidades con un realismo asombroso, lo que plantea desafíos significativos para distinguir entre contenido auténtico y falso. Este artículo examina en profundidad qué son los deepfakes, cómo funcionan sus mecanismos de creación, sus aplicaciones tanto positivas como negativas, y ofrece técnicas para su detección, explorando sus implicaciones legales, éticas y sociales en un mundo donde la línea entre lo real y lo artificial se desdibuja cada vez más.

Explicación

Un deepfake es una imagen o video generado mediante inteligencia artificial que imita la realidad de manera convincente. Utiliza técnicas de machine learning para superponer rostros y voces en contenido audiovisual existente, creando así material que aparenta ser auténtico. El término proviene de la combinación de los conceptos “deep learning” y “fake”, haciendo alusión al contenido falso generado con aprendizaje profundo (inteligencia artificial).

Los deepfakes, también conocidos como “ultrafalsos” en algunos contextos, son un tipo de medio sintético y una forma moderna de manipulación mediática. Se refieren a una técnica de suplantación de identidad que recopila datos sobre movimientos físicos, rasgos faciales e incluso voz, para procesarlos mediante un algoritmo codificador de IA o una Red generativa antagónica (GAN), creando contenido audiovisual, gráfico o de voz falso, pero hiperrealista.

La tecnología detrás de los deepfakes no es completamente nueva. De hecho, se ha usado durante años en los estudios cinematográficos de Hollywood, pero ahora está al alcance de muchas personas a través de aplicaciones comerciales, lo cual ha incrementado el volumen de contenido de este tipo circulando por la web. Esta democratización de la tecnología ha multiplicado tanto sus aplicaciones creativas como los riesgos asociados.

Proceso de Creación de un Deepfake

La creación se basa en una técnica de machine learning conocida como redes generativas antagónicas (GANs). Las GANs constan de dos partes: un generador y un discriminador. El generador intenta crear datos falsos, mientras que el discriminador intenta distinguir los datos reales de los falsos. Esto se realiza a través de un proceso iterativo de “aprendizaje competitivo”, donde el generador y el discriminador se entrenan simultáneamente, mejorando continuamente a través de este ciclo de retroalimentación.

Detrás de cada deepfake hay dos redes neuronales enfrentadas. Los populares y preocupantes vídeos falsos en los que famosos y políticos aparecen pronunciando palabras que nunca han dicho son fruto del trabajo en equipo: una red se inventa algo, la otra determina si la primera miente y vuelta a empezar. De ahí el nombre del sistema que conforman: redes generativas antagónicas o adversarias.

El proceso funciona de la siguiente manera:

  • El Generador: comienza con una imagen o vídeo base y aplica una máscara derivada de otra fuente. Esta máscara puede ser la cara de una persona, su voz o cualquier otro atributo que se desee falsificar.
  • El Discriminador: compara la salida del generador con imágenes o vídeos reales y determina si la producción del generador es auténtica o no.

Este proceso se repite hasta que el discriminador ya no pueda diferenciar entre el contenido falso y el real, resultando en un deepfake convincente. Los procesos técnicos detrás de esto se basan en el concepto de “espacios latentes”, que son representaciones de alta dimensión donde la IA aprende a capturar la esencia de los rostros y las voces para generar deepfakes de alta calidad.

En las GANs, un espacio latente es un entorno de múltiples dimensiones donde cada dimensión representa una característica específica de los datos, como la forma de una cara o el tono de una voz. Durante el entrenamiento, la GAN aprende a mapear puntos en este espacio a representaciones realistas, permitiendo la generación de deepfakes detallados y precisos.

Vídeo Explicativo

Utilidad de los Deepfakes

Las utilidades de los deepfakes son tan variadas como lo permite la imaginación. Aunque a menudo se asocian con usos malintencionados, existen aplicaciones legítimas y beneficiosas:

  • Entretenimiento: se han utilizado para crear vídeos humorísticos o experimentales. En un caso particular, un fanático de “Back to the Future” creó un vídeo en el que superpuso las caras de Tom Holland y Robert Downey Jr. en los personajes de Marty McFly y Doc Brown, respectivamente. Los deepfakes también se han usado en Hollywood para rejuvenecer o envejecer a actores para ciertas escenas, como se vio en “The Irishman”, de Martin Scorsese, donde Robert De Niro fue rejuvenecido digitalmente.
  • Educación y Capacitación: pueden usarse para crear simulaciones de alta calidad para la formación profesional o académica. Un ejemplo es la creación de un Salvador Dalí ficticio en un museo de arte de Florida para que interactúe con los visitantes. Algunas empresas también han comenzado a usar deepfakes para entrenamientos de seguridad, donde los empleados interactúan con escenarios de phishing simulados.
  • Restauración de Medios: se pueden usar para mejorar la calidad de las grabaciones antiguas. Un ejemplo impresionante es la remasterización de la serie de televisión “Star Trek” de los años 60. Un entusiasta de la serie usó tecnología de deepfake para mejorar la calidad de las imágenes, resultando en una versión modernizada.
  • Publicidad y Marketing: en lugar de contratar a actores para comerciales, las empresas pueden optar por usar deepfakes para simular celebridades o para crear modelos de producto ideales.
  • Diseño Industrial y Espacial: en Airbus los emplean para diseñar nuevas estructuras aerodinámicas que resulten en piezas más ligeras, seguras y de mayor rendimiento. La NASA también integra redes generativas antagónicas en sus procesos de diseño y manufactura de piezas para su programa de exploración espacial.

Los Riesgos Asociados

A pesar de estos usos positivos, los deepfakes presentan numerosos peligros, destacando particularmente su potencial para la desinformación y la manipulación, y su impacto en la política y la democracia.

I. Desinformación y Manipulación Política

Un deepfake podría representar a un líder político diciendo o haciendo algo que nunca dijo o hizo. Esto no solo tiene consecuencias dañinas para el individuo, sino que también podría ser utilizado para influir en la opinión pública o alterar el resultado de las elecciones. Los deepfakes pueden ser utilizados para crear “noticias falsas” más convincentes, fabricando evidencia visual y auditiva falsa pero convincente.

II. Acoso y Difamación

Los deepfakes pueden ser utilizados para el acoso y la difamación, con personas inocentes falsamente representadas en situaciones comprometedoras1. Este uso es especialmente preocupante, ya que puede causar un daño significativo a la reputación y la vida personal de las víctimas.

III. Fraudes de Voz e Identidad

los deepfakes de voz, que utilizan algoritmos de IA para clonar voces humanas con gran precisión, pueden ser utilizados para perpetrar estafas telefónicas sofisticadas, entre otros abusos1. Un reciente informe de Europol advierte que la mayoría de deepfakes difundidos tienen intenciones maliciosas, entre ellas:

  • Atentar contra la integridad moral de las personas (por ejemplo, con los montajes de vídeos pornográficos).
  • Manipulación de imágenes y sonidos para eludir contraseñas biométricas.
  • Fraudes en plataformas digitales.
  • Propagación de noticias falsas y desinformación.
  • Robo de identidad.
  • Extorsión.

IV. Impacto en la Pornografía no Consentida

Un estudio reveló que el 96% de los deepfakes detectados eran pornográficos, afectando principalmente a mujeres. También se han usado para extorsionar víctimas y explotar menores con contenido sintético explícito. La pornografía deepfake es una preocupación grave, especialmente en países como Corea del Sur, que está experimentando “una epidemia de delitos sexuales digitales”.

Ver también

La policía de Corea del Sur ha atendido 297 delitos sexuales con deepfake, y la mayoría de las víctimas y los autores son adolescentes. Un caso particularmente preocupante ocurrió en Ecuador, donde unos jóvenes crearon más de 700 fotos y videos falsos, con rostros de mujeres de distintas edades, estudiantes de un colegio de Quito.

Detección & Mitigación

A medida que mejora la tecnología de los deepfakes, también lo hacen los esfuerzos por detectarlos y mitigar sus efectos perjudiciales. Existen varios métodos que pueden ayudarnos a identificar un deepfake:

  1. La nitidez de la voz: si un vídeo presenta un rostro, pero sin sonido, existe un primer motivo para sospechar. Los softwares para crear deepfakes utilizan audios pregrabados mediante un móvil o un ordenador que pueden resultar desnaturalizados, con matices distintos a los de la voz original. Deberías sospechar también si el vídeo dura pocos segundos.
  2. Atención al lenguaje no verbal: una cuestión clave a la hora de identificar bulos. Los creadores de noticias falsas suelen utilizar patrones sobre los que luego superponen diferentes rostros. El lenguaje corporal, los gestos y las expresiones faciales pueden parecer artificiales o desconectados del contexto.
  3. Desproporciones y anomalías: en muchos deepfakes, pueden observarse desproporciones o características físicas que no coinciden con la realidad, como reflejos inconsistentes en los ojos o gafas.
  4. Parpadeo y movimientos de labios: prestar atención al número de veces que parpadea la imagen del vídeo, podemos descubrir si es una persona real o un deepfake, ya que este tiende a parpadear menos que una persona real. Estudiar si los movimientos de labios siguen ritmos naturales.
  5. Reflejos en los ojos y las gafas: si el sujeto tiene un reflejo coincidente en cada ojo, es probable que sea una imagen real, pero si hay inconsistencia en los dos reflejos, probablemente sea falso.
  6. Edad coherente: verificar si la edad de la piel coincide con la de los ojos y el cabello.
  7. Revisar y verificar la fuente: es fundamental priorizar fuentes de prestigio y oficiales para evitar hacerse eco de contenidos falsos o manipulados de procedencia dudosa.
  8. Comprobar la edición y calidad de la imagen: es útil fijarse si es un contenido pixelado o con elementos poco definidos, ya que podría indicar manipulación.

Herramientas tecnológicas para detectar deepfakes

  • Reality Defender: una plataforma diseñada para combatir amenazas generadas por IA en múltiples tipos de medios, incluidas imágenes, videos, audio y texto. Mediante un enfoque multimodelo patentado, permite identificar manipulaciones en tiempo real.
  • WeVerify: perfecto para detectar deepfake en vídeos.
  • Sentinel: Utilizada por instituciones de Europa y Estados Unidos, esta plataforma puede utilizarse para identificar deepfake de los tres tipos que existen.
  • Sistemas cognitivos artificiales: Modelos entrenados con datos audio-visuales que buscan mejorar la capacidad de generalización en la detección de deepfakes, que escasea en los modelos existentes.

Legislación & Regulación de Deepfakes

Los deepfakes presentan complicados dilemas éticos y legales. Su capacidad para causar daño, ya sea mediante la difamación o el daño a la reputación, se equilibra con su potencial en campos como el entretenimiento y el cine. Esta dualidad hace que la regulación de esta tecnología sea un desafío.

  • Marcos legales actuales: las leyes existentes como las relacionadas con la difamación, el fraude y la violación de la privacidad no siempre son suficientes para combatir los problemas únicos que presentan los deepfakes, señalando la necesidad de leyes más específicas1.
  • Esfuerzos regulatorios: algunos países han comenzado a implementar legislaciones específicas. Por ejemplo, en el Reino Unido, se está tipificando como delito penal la creación de una imagen deepfake sexualmente explícita. Facebook prohibió los Deepfakes en 2020 (con excepción de los que son claramente parodias).
  • Desafíos de implementación: a pesar de la necesidad de legislaciones más robustas, la implementación de estas leyes será un desafío dada la naturaleza global de Internet. Enfrentar eficazmente los problemas planteados por los deepfakes requerirá un esfuerzo de cooperación internacional1.
  • Propuestas de regulación: algunos expertos proponen que dentro de los códigos penales se incorporen artículos específicos que establezcan el deepfake como tipo penal, con la debida proporcionalidad entre la infracción cometida y el perjuicio ocasionado. En Ecuador, por ejemplo, se ha concluido que es necesario incorporar un artículo enumerado dentro del Código Orgánico Integral Penal que establezca el deepfake y sus características.

En Estados Unidos, la Comisión Federal de Comercio está redactando nuevas leyes para prohibir la producción y distribución de deepfakes que suplantan a individuos, a pesar de que se ha informado de un aumento del 1740% en el fraude con deepfakes.

Cuestiones Éticas

Los deepfakes presentan enormes implicaciones éticas en nuestro mundo digital en constante evolución. Estas implicaciones abarcan desde el consentimiento hasta la difusión de la desinformación y ponen en tela de juicio la autenticidad y la confianza en el contenido digital.

  • Consentimiento: una cuestión ética clave es si es moralmente aceptable utilizar la imagen o la voz de alguien sin su consentimiento explícito. En el caso de personas fallecidas, surge la pregunta de quién tiene la autoridad para dar consentimiento en su nombre.
  • Autenticidad y verdad: la realidad del contenido digital se vuelve cada vez más difícil de determinar. La pregunta ética de cómo se definen y mantienen las normas de autenticidad en un mundo donde se puede manipular fácilmente la realidad sigue siendo un tema de debate. Los deepfakes contribuyen a una erosión de la confianza en lo que vemos y oímos, lo que puede tener profundas consecuencias sociales.
  • Privacidad y dignidad: los deepfakes plantean la cuestión de hasta qué punto su uso infringe el derecho a la privacidad y la dignidad de las personas. Estas creaciones tienen el potencial de exponer a las personas a situaciones que pueden dañar su reputación o bienestar emocional.
  • Cinismo y crueldad digital: los debates sobre la inteligencia artificial generativa han cobrado fuerza al ver cómo han derivado en acciones que afectan la concepción de la realidad. El deepfake al conjugarse con lógicas del cinismo y la crueldad hacia otros, amenaza la integridad y la verdad. Esto se manifiesta en la formación de redes y enjambres digitales que propagan este tipo de contenido malicioso.
  • Responsabilidad de los creadores de tecnología: surge el debate sobre la responsabilidad de quienes desarrollan y distribuyen herramientas para crear deepfakes. ¿Deberían implementar salvaguardas para prevenir usos malintencionados? ¿Cómo se equilibra la innovación tecnológica con la protección contra el daño?

El Futuro De Esta Tecnología

Los deepfakes, como muchas tecnologías emergentes, son una espada de doble filo. Por un lado, tienen el potencial de cambiar nuestra forma de comunicarnos, aprender y entretenernos. Por otro lado, plantean amenazas significativas para la sociedad.

  • Mejoras tecnológicas continuas: es probable que los deepfakes se vuelvan cada vez más sofisticados y convincentes. La calidad de estas creaciones seguirá mejorando, haciendo más difícil distinguirlas del contenido auténtico.
  • Democratización de la tecnología: las herramientas para crear deepfakes están volviéndose más accesibles para el usuario común, lo que podría llevar tanto a un aumento en la creatividad como a un incremento en su uso indebido.
  • Desarrollo de contramedidas: paralelamente, veremos avances en las tecnologías de detección de deepfakes. Se espera que la investigación en este campo continúe intensificándose, con enfoques cada vez más sofisticados que combinen múltiples métodos de análisis.
  • Evolución del marco legal: las leyes y regulaciones sobre deepfakes probablemente se desarrollarán y refinarán a medida que comprendamos mejor sus implicaciones sociales y legales.
  • Cambios en la percepción social: a medida que los deepfakes se vuelvan más comunes, puede que veamos cambios en cómo la sociedad percibe y confía en el contenido digital. Esto podría llevar a un mayor escepticismo hacia lo que vemos en línea.
  • Integración con otras tecnologías: los deepfakes podrían combinarse con otras tecnologías emergentes, como la realidad virtual y aumentada, creando experiencias inmersivas completamente nuevas, con aplicaciones en campos como la educación, el entretenimiento y la terapia.
  • Necesidad de educación mediática: ante la proliferación de deepfakes, cobra importancia la educación para que la ciudadanía pueda evaluar críticamente el contenido digital y reconocer posibles manipulaciones.

Conclusión

El mundo de los deepfakes es fascinante y aterrador a la vez, situándonos al borde de una nueva era en la que la realidad y la ficción pueden volverse indistinguibles para el ojo y oído humanos, lo que exige no solo avances en tecnologías de detección, sino también un marco legal robusto y una conciencia colectiva sobre la autenticidad del contenido digital; es vital que sigamos buscando maneras de navegar en este nuevo panorama, equilibrando las promesas que ofrecen estas tecnologías para sectores como el entretenimiento, la educación y el diseño, con los riesgos significativos que presentan para la privacidad, la seguridad y la confianza pública, asegurando que las herramientas para detectar deepfakes evolucionen tan rápidamente como las técnicas para crearlos, y que la educación mediática permita a la ciudadanía evaluar críticamente lo que ve y escucha en el mundo digital.