UNIR Revista
Con el deepfake se generan contenidos manipulados donde se imita la voz o la apariencia de una persona. Se generan gracias a la Inteligencia Artificial y pueden suponer un riesgo al suplantar la identidad de una persona.
Con la tecnología deepfake se generan imágenes, audios y vídeos manipulados que hacen difícil distinguir lo verdadero de lo falso. Por ello, es necesario analizar sus implicaciones y características para comprenderla en profundidad e identificar su potencial y los riesgos que supone. El Máster en Ciberdelincuencia online de UNIR capacita al estudiante a abordar eficazmente estas y otras prácticas digitales que impactan en la sociedad.
Con esta tecnología, suplantar la identidad de una persona es cada vez más fácil, ya que “estas técnicas se han democratizado y permiten que cualquier persona en menos de 10 minutos pueda manipular la realidad”, según indica el experto en ciberseguridad Chema Alonso.
¿Qué es un deepfake?
El término deepfake apareció por primera vez en el año 2017 y surge de la combinación de las palabras deep learning (aprendizaje profundo) y fake (falso), haciendo referencia a la creación de un contenido manipulado mediante tecnologías avanzadas de aprendizaje automático. Así pues, su significado literal es ultrafalso.
El deepfake es un archivo de vídeo, imagen o voz manipulados mediante inteligencia artificial. A esta tecnología se le conoce también como medios sintéticos y es generada con técnicas de machine learning denominadas deep learning, en las que se hace uso de algoritmos de redes neuronales.
Estas redes neuronales generativas antagónicas (GAN por sus siglas en inglés) utilizan algoritmos que aprenden de patrones presentes en las imágenes, vídeos o audios para después manipularlos y recrear una imagen de una cara, persona o cualquier otro tipo de objeto.
Los deepfake se utilizan principalmente en videos y su contenido es tan real que confunde a máquinas y a seres humanos por igual.
Tipos de deepfake
Se diferencian tres tipos de deepfake:
- De voz. El audio es el elemento manipulado. Con esta tecnología se clona la voz de alguien a partir de muestras de audio y se genera una voz sintética que suena igual a la original.
- De vídeo. En este tipo de deepfake suele alterar o reemplazar la cara de una persona por otra para crear imágenes falsas de situaciones que nunca tuvieron lugar.
- De imágenes. Similar al del vídeo, pero realizado sobre contenido sin movimiento, es decir, fotografías o imágenes estáticas creadas por inteligencia artificial.
El impacto de los deepfake en la sociedad
Cada nueva tecnología que irrumpe en la sociedad entraña riesgos y oportunidades, tal y como ocurre con el deepfake. De esta forma, a medida que su uso se expande, hay prácticas ilícitas o malintencionadas que se llevan a cabo y que impactan negativamente en la sociedad, desestabilizando principalmente la seguridad y la privacidad de los ciudadanos:
- Se crean videos, audios o imágenes extremadamente realistas que manipulan la realidad de forma casi imperceptible. Esto puede influir en la opinión pública y la forma en la que la sociedad interpreta la realidad, generando incertidumbre.
- El contenido genera desinformación, ya que el mensaje que proyecta está adulterado y puede ser utilizado para desprestigiar, crear una opinión negativa sobre una persona e, incluso, violar su privacidad personal. A su vez, disminuye la confianza de la sociedad en lo que ven y escuchan.
- Hay material cuya finalidad consiste en comprometer y dañar la imagen de una persona. La consecuencia directa de esta mala práctica es el menoscabo de la imagen y credibilidad de los medios de comunicación y las instituciones.
- Se ejerce ciberacoso mediante vídeos e imágenes manipulados que afectan a la integridad y privacidad de las víctimas.
Estas implicaciones sociales son negativas, pero también la tecnología deepfake ofrece innovaciones y aplicaciones beneficiosas y creativas para la sociedad:
- Mejoras en producciones audiovisuales, al permitir la creación de escenas más realistas.
- Recreación de la voz y la imagen de un artista, actor o personalidad fallecida.
- Adaptación de piezas audiovisuales para la enseñanza de idiomas.
El impacto del deepfake en la sociedad es innegable y el foco actual está en conocer en profundidad los riesgos, las implicaciones y los debates éticos que plantea esta tecnología para combatirlos con rigor y profesionalidad.
¿Cómo detectar un deepfake?
Para detectar un deepfake se recomienda hacer lo siguiente:
- Revisar y verificar la fuente y el origen del contenido. Es fundamental priorizar fuentes de prestigio y oficiales para evitar hacerse eco de contenidos falsos o manipulados de procedencia dudosa.
- Analizar el contenido en profundidad e identificar anomalías y errores presentes, como por ejemplo: faltas de coordinación de movimientos en el vídeo, fallos en el aspecto de la piel o en el parpadeo del protagonista de la imagen, entre otras incongruencias.
- Fijarse en la edición y calidad de la imagen. Es decir, ver si es un contenido pixelado o con elementos poco definidos, ya que de ser así es probable que haya sido manipulado.
- Comprobar el sonido en los deepfake de vídeo. Concretamente, evaluar si el audio de un vídeo está distorsionado o desincronizado, lo que indicaría que es falso.
Además, existen herramientas para detectar deepfake:
- WeVerify. Perfecto para detectar deepfake en vídeos.
- Sentinel. Utilizada por instituciones de Europa y Estados Unidos, esta plataforma puede utilizarse para identificar deepfake de los tres tipos que existen.
Ejemplos de deepfake
Desde su aparición, el deepfake ha sido utilizado en muchas ocasiones, dando lugar a los siguientes ejemplos destacados:
Trump siendo detenido por la policía
En 2023, se viralizaron fotografías falsas de Donald Trump creadas con inteligencia artificial por el periodista británico Eliot Higgins. Este ejemplo de deepfake mostraban al expresidente estadounidense siendo arrestado por la policía por presuntamente ocultar documentos oficiales.
Aunque eran imágenes sintéticas generadas con la herramienta Midjourney v5, se difundieron rápidamente en redes sociales y aparecieron en portadas de medios internacionales.
El presidente Zelenski pide la rendición del ejército y el pueblo ucraniano
También en 2023, hackers rusos publicaron un vídeo en el que Volodímir Zelenski, actual presidente de Ucrania, pedía a los ciudadanos que depusieran las armas y se rindieran ante Rusia.
El material fue rápidamente desmentido, aunque puso de manifiesto el potencial de la tecnología deepfake y los riesgos que integra.
Salvador Dalí en el Museo de St. Petersburg en Florida
En 2019, la exposición Dalí Lives recreó la figura del artista con inteligencia artificial para permitir a los visitantes interactuar con el artista.
Estos ejemplos son la muestra de que la tecnología deepfake puede ser utilizada con fines fraudulentos, legales o creativos. Por ello, se necesita rigor y profesionalidad para aprovechar su potencial al máximo y utilizarla e implementarla correctamente.
