que es un deepfake
Robot con la parte izquierda neuralizada.

¿Qué Es Un Deepfake? ¿Cuáles Son Sus Riesgos?

Han surgido nuevas tecnologías que desafían nuestras nociones tradicionales de realidad y autenticidad. Una de estas innovaciones son los “deepfakes”, un término que se ha arraigado en la conciencia pública en los últimos años.

Explicación

Un deepfake es, en esencia, una imagen o vídeo generado por inteligencia artificial (IA) que parece muy real. Utilizando técnicas de machine learning para superponer rostros y voces en vídeos existentes, los deepfakes crean contenido que parece auténtico. El término “deepfake” es una combinación de “deep learning” (un subcampo de la IA) y “fake”, que significa falso en inglés. Sin embargo, aunque parezcan sencillos, los procesos técnicos detrás de la creación de los deepfakes son bastante complejos.

Proceso de Creación de un Deepfake

La creación se basa en una técnica de machine learning conocida como redes generativas antagónicas (GANs). Las GANs constan de dos partes: un generador y un discriminador. El generador intenta crear datos falsos, mientras que el discriminador intenta distinguir los datos reales de los falsos. Esto se realiza a través de un proceso iterativo de “aprendizaje competitivo”, donde el generador y el discriminador se entrenan simultáneamente, mejorando continuamente a través de este ciclo de retroalimentación.

  1. El Generador: comienza con una imagen o vídeo base y aplica una máscara a partir de otra imagen o vídeo. Esta máscara puede ser la cara de una persona, su voz o cualquier otro atributo que se desee falsificar.
  2. El Discriminador: compara la salida del generador con imágenes o vídeos reales y determina si la producción del generador es auténtica o no.

Este proceso se repite hasta que el discriminador ya no pueda diferenciar entre el contenido falso y el real, resultando en un deepfake convincente. Los procesos técnicos detrás de esto se basan en el concepto de “espacios latentes”, que son representaciones de alta dimensión donde la IA aprende a capturar la esencia de los rostros y las voces para generar deepfakes de alta calidad.

En el contexto de las GANs, un espacio latente es un espacio de alta dimensión en el que cada dimensión representa una característica o atributo potencial de los datos que se están generando. Durante el entrenamiento, la GAN aprende a mapear puntos en este espacio latente a imágenes o sonidos realistas. Cada punto en el espacio latente es una combinación única de características que la GAN puede utilizar para generar un nuevo ejemplo de datos.

Al entrenar una GAN para generar deepfakes, el espacio latente podría representar características como la forma de una cara, el color de los ojos, la tonalidad de la voz, etc. A medida que la GAN se entrena, esta aprende a mapear estas características a representaciones realistas de rostros y voces. Por lo tanto, cuando se da un nuevo punto en el espacio latente, la GAN genera un deepfake que corresponde a ese punto.

Vídeo Explicativo

Utilidad de los Deepfakes

Las utilidades de los deepfakes son tan variadas como lo permite la imaginación. Aquí se mencionan algunas:

  • Entretenimiento: se han utilizado para crear vídeos humorísticos o experimentales. En un caso particular, un fanático de “Back to the Future” creó un vídeo en el que superpuso las caras de Tom Holland y Robert Downey Jr. en los personajes de Marty McFly y Doc Brown, respectivamente. Además, los deepfakes también se han usado en Hollywood para rejuvenecer o envejecer a actores para ciertas escenas, como se vio en “The Irishman”, de Martin Scorsese, donde Robert De Niro fue rejuvenecido digitalmente para interpretar a su personaje en diferentes momentos de su vida.
  • Educación y Capacitación: pueden usarse para crear simulaciones de alta calidad para la formación profesional o académica. Un ejemplo es la creación de un Salvador Dalí ficticio en un museo de arte de Florida para que hable con los visitantes e incluso estos puedan hacerse selfies con él. Algunas empresas también han comenzado a usar deepfakes para entrenamientos de seguridad, donde los empleados interactúan con escenarios de phishing simulados para mejorar su capacidad de reconocer y responder a intentos de phishing en la vida real.
  • Restauración de Medios: se pueden usar para mejorar la calidad de las grabaciones antiguas. Un ejemplo impresionante de esto es la remasterización de la serie de televisión de los años 60, “Star Trek”. Un entusiasta de la serie usó tecnología de deepfake para mejorar la calidad de las imágenes, resultando en una versión modernizada y de alta definición de la serie original.
  • Publicidad y Marketing: en lugar de contratar a actores para comerciales, las empresas pueden optar por usar deepfakes para simular celebridades o para crear modelos de producto ideales. Por ejemplo, reAlpha, una startup inmobiliaria, generó notoriedad al difundir un vídeo de Elon Musk. En este vídeo, el falso Musk es presentado como si hubiera sido ‘secuestrado’, durante el cual explica el modelo de negocio de la empresa y hace bromas sobre sí mismo. Todo esto se hizo sin el consentimiento del auténtico Elon Musk, con el objetivo principal de atraer su atención.
  • Ciberseguridad: también se están utilizando en el ámbito de la ciberseguridad, especialmente en el contexto de las estafas de phishing y el fraude online. Los ciberdelincuentes pueden utilizar deepfakes para crear correos electrónicos, llamadas telefónicas o vídeos falsos que parezcan venir de fuentes legítimas. Por ejemplo, se han informado casos de CEO falsos que solicitan transferencias de dinero urgente, o estafas de phishing que imitan la voz de un amigo o familiar pidiendo ayuda financiera. Esta nueva ola de ataques de phishing basados en deepfakes pone de manifiesto la necesidad de nuevas técnicas de detección y defensa en el ámbito de la ciberseguridad.

Estos usos demuestran la variedad de aplicaciones posibles de los deepfakes, y es probable que veamos aún más formas creativas e innovadoras de utilizar esta tecnología en el futuro. Sin embargo, es crucial tener en cuenta las preocupaciones éticas y de privacidad asociadas con los deepfakes, especialmente cuando se utilizan en contextos públicos y comerciales.

Los Riesgos Asociados

A pesar de estos usos positivos, los deepfakes presentan numerosos peligros, destacando particularmente su potencial para la desinformación y la manipulación, y su impacto en la política y la democracia.

Por ejemplo, un deepfake podría mostrar a un líder político diciendo o haciendo algo que nunca dijo o hizo. Esto no solo tiene consecuencias dañinas para el individuo, sino que también podría ser utilizado para influir en la opinión pública o alterar el resultado de las elecciones. Durante la elección presidencial de 2020 en los Estados Unidos, por ejemplo, se difundió un vídeo deepfake de Joe Biden, en el que parecía confundido y desorientado, lo cual fue utilizado para sembrar dudas sobre su capacidad mental.

Los deepfakes también pueden ser utilizados para crear “noticias falsas” más convincentes, fabricando evidencia visual y auditiva falsa pero convincente, lo que representa un grave peligro para la integridad de nuestras democracias y el funcionamiento de nuestras sociedades.

Además de la manipulación política, los deepfakes también pueden ser utilizados para el acoso y la difamación, con personas inocentes falsamente representadas en situaciones comprometedoras. Este uso potencial de los deepfakes es especialmente preocupante, ya que puede causar un daño significativo a la reputación y la vida personal de las víctimas.

Por otro lado, los deepfakes de voz, que utilizan algoritmos de IA para clonar voces humanas con gran precisión, pueden ser utilizados para perpetrar estafas telefónicas sofisticadas, entre otros abusos.

Estos riesgos subrayan la necesidad de desarrollar técnicas de detección y mitigación de deepfakes efectivas, así como leyes y regulaciones adecuadas para abordar los problemas éticos y legales que plantean.

Impacto Psicológico y Social

El impacto psicológico y social de los deepfakes también es un tema que merece atención. Los deepfakes incrementan la desconfianza general en el contenido multimedia y, en última instancia, conducen a una ‘era de la posverdad’ donde la gente tiene dificultades para discernir lo real de lo falso. Esta erosión de la confianza puede tener consecuencias significativas en todas las áreas de la vida, desde las relaciones personales hasta la política y el periodismo.

Detección & Mitigación

A medida que mejora la tecnología de los deepfakes, también lo hacen los esfuerzos por detectarlos y mitigar sus efectos perjudiciales. Las técnicas tradicionales de detección de deepfakes se basan en buscar anomalías en los vídeos, como parpadeos irregulares, distorsiones faciales sutiles o inconsistencias en la iluminación. Pero, a medida que los algoritmos detrás de los deepfakes se vuelven más sofisticados, estos indicios visuales se están volviendo cada vez menos efectivos. De hecho, algunos deepfakes actuales ya son capaces de replicar con precisión estas sutilezas.

La detección basada en la inteligencia artificial se está convirtiendo en una línea prometedora de defensa. Al igual que los sistemas que crean deepfakes, los sistemas de detección también utilizan el aprendizaje automático para mejorar su eficacia. Se entrenan en numerosos ejemplos de deepfakes, aprendiendo a reconocer las sutilezas y las imperfecciones que pueden revelar el engaño. Sin embargo, la eficacia de estos sistemas es un desafío en constante evolución, ya que la calidad de los deepfakes sigue mejorando.

Ver también

Además, también están emergiendo técnicas de detección basadas en la biometría. Estos métodos buscan patrones de movimiento, ritmo de habla, y otras características personales únicas que pueden ser difíciles de replicar con precisión en un deepfake. Sin embargo, a medida que los algoritmos de deepfakes se vuelven más sofisticados y capaces de aprender y replicar estos patrones biometricos, los retos para la detección se vuelven aún más grandes.

A pesar de estos esfuerzos en la detección, no hay una solución completa. Los deepfakes continúan mejorando, y la carrera entre la generación y la detección de deepfakes es un desafío constante.

Empresas de tecnología, como Microsoft y Google, están invirtiendo en investigación para mejorar las tecnologías de detección. Además, se están desarrollando métodos de autenticación de medios, como marcas de agua digitales y cadenas de custodia basadas en blockchain, para rastrear y verificar el contenido multimedia. Aunque estas estrategias pueden ayudar, la complejidad del problema sugiere que la detección y mitigación de deepfakes requerirá una combinación de múltiples enfoques, incluyendo avances tecnológicos, leyes y regulaciones efectivas, y conciencia y educación pública.

Legislación & Regulación de Deepfakes

Los deepfakes presentan complicados dilemas éticos y legales. Su capacidad para causar daño, ya sea mediante la difamación o el daño a la reputación, se equilibra con su potencial en campos como el entretenimiento y el cine. Esta doble cara hace que la regulación de esta tecnología sea un desafío. Las leyes existentes como las relacionadas con la difamación, el fraude y la violación de la privacidad no siempre son suficientes para combatir los problemas únicos que presentan, señalando la necesidad de leyes más específicas.

A pesar de la necesidad de legislaciones más robustas, la implementación de estas leyes será un desafío dada la naturaleza global de Internet. Enfrentar eficazmente los problemas planteados por los deepfakes requerirá un esfuerzo de cooperación internacional, subrayando la importancia del diálogo y la acción conjunta en este ámbito emergente y en rápida evolución.

Cuestiones Éticas

Los deepfakes presentan enormes implicaciones éticas en nuestro mundo digital en constante evolución. Estas implicaciones abarcan desde el consentimiento hasta la difusión de la desinformación y ponen en tela de juicio la autenticidad y la confianza en el contenido digital.

  • Consentimiento: una cuestión ética clave es si es moralmente aceptable utilizar la imagen o la voz de alguien sin su consentimiento explícito. En el caso de personas fallecidas, surge la pregunta de quién tiene la autoridad para dar consentimiento en su nombre.
  • Autenticidad: la realidad del contenido digital se vuelve cada vez más difícil de determinar. La pregunta ética de cómo se definen y mantienen las normas de autenticidad en un mundo donde se puede manipular fácilmente la realidad sigue siendo un tema de debate.
  • Privacidad: los deepfakes plantean la cuestión de hasta qué punto su uso infringe el derecho a la privacidad de las personas. Estas creaciones tienen el potencial de exponer a las personas a situaciones que pueden dañar su reputación o bienestar emocional, lo que genera importantes dilemas éticos que aún deben ser abordados.

Es fundamental que los legisladores, los tecnólogos y la sociedad en general aborden de manera proactiva las preocupaciones éticas y legales asociadas con los deepfakes, especialmente a medida que estos avances tecnológicos se vuelven cada vez más sofisticados y convincentes.

El Futuro de esta Tecnología

Los deepfakes, como muchas tecnologías emergentes, son una espada de doble filo. Por un lado, tienen el potencial de cambiar nuestra forma de comunicarnos, aprender y entretenernos. Por otro lado, plantean amenazas significativas para la sociedad.

Es bastante probable que se vuelvan cada vez más sofisticados y convincentes en el futuro. A medida que esto sucede, es imperativo que los legisladores, los tecnólogos y la sociedad en general aborden proactivamente las preocupaciones éticas y legales asociadas.

Conclusión

El mundo de los deepfakes es fascinante y aterrador a la vez. Estamos al borde de una nueva era en la que la realidad y la ficción serán indistinguibles. Si bien esta tecnología puede ser emocionante y prometedora, también nos obliga a enfrentar nuevos desafíos éticos y legales. Es vital que sigamos buscando maneras de navegar en este nuevo panorama, equilibrando las promesas y riesgos que presenta.