Vamos a dudar de todo: Cómo los deepfakes están transformando nuestra percepción de la verdad

El sábado pasado, nada más levantarme, aún con las legañas del fin de semana, me dispuse a hacerme un café. Ya sabéis, la rutina del vicio digital: mientras la cafetera hacía su trabajo, yo hacía el mío, revisando las redes en busca de novedades para alimentar a la bestia que es Gràffica, siempre hambrienta de tendencias y noticias. Entonces me encontré con algo que me dejó atónito. Una página aseguraba que, subiendo un texto sencillo, era capaz de crear un podcast. Ni corto ni perezoso, le pegué el enlace de un artículo sobre Steve McCurry y su nuevo libro editado por Artika. Y en lo que tarda una Nespresso en llenar una taza, ya tenía un audio. El resultado era, simplemente, alucinante: dos voces, naturales, conversando sobre Steve McCurry y su obra, utilizando el contenido del artículo de Gràffica sin que ni siquiera tuviera que pegar el texto. Un resumen perfecto en un audio de nueve minutos, con un tono y fluidez que podían engañar a cualquiera haciéndole creer que estaba escuchando un podcast real, grabado por personas de carne y hueso. A-L-U-C-I-N-A-N-T-E. Luego, por la noche, me topé por casualidad con un documental en Netflix sobre la IA y Bill Gates, y algo hizo clic. Gates, en el segundo capítulo, hablaba sobre la cantidad de bulos que se difunden sobre él, y cómo la desinformación está envenenando el discurso diario de la población. Fue ahí donde me di cuenta del enorme poder y también el peligro que entraña la IA en esta era de la "duda profunda". Hoy, la tecnología nos ha dado herramientas increíbles, capaces de generar contenidos falsos que resultan casi indistinguibles de los reales. Hemos entrado en lo que algunos llaman la "era de la duda profunda", una época en la que ya no basta con cuestionar lo que vemos, sino que debemos dudar de absolutamente todo. Los deepfakes y las inteligencias artificiales están erosionando nuestra confianza en la realidad tal como la conocíamos, permitiendo que cualquiera pueda desacreditar cualquier prueba, cualquier evento. Y esto no es un escenario hipotético. Ya está ocurriendo. Ya en 2019, los académicos Danielle Citron y Robert Chesney acuñaron el término "dividendo del mentiroso", refiriéndose a cómo los deepfakes permiten a los mentirosos evitar la rendición de cuentas al simplemente afirmar que cualquier prueba en su contra es una falsificación generada por IA. Este fenómeno ha dejado de ser un concepto académico y se ha convertido en nuestra nueva normalidad. Cuando pienso en este futuro cargado de dudas, me vienen a la mente los stickers digitales. En Gràffica, los portátiles de nuestros redactores y colaboradores son prueba viviente de que las pegatinas están de moda; sus ordenadores están cubiertos de stickers de todo tipo. Pero los stickers no solo están en el mundo físico: en las aplicaciones de mensajería, como WhatsApp o Telegram, han pasado a reemplazar a los emojis. Y si lo pensamos bien, ¿no son estos stickers digitales el primer paso hacia la normalización de la manipulación visual? En este entorno, la Generación Z ha adoptado los deepfakes y otras herramientas de IA con total naturalidad. Como bien señala Erhan Aslan, profesor de la Universidad de Reading, esta generación creció en la era digital, y su capacidad para manipular imágenes, videos y audios es solo una extensión de su vida diaria. En este sentido, la transición de los stickers digitales a los deepfakes no es más que el siguiente paso en una evolución tecnológica que ha hecho de la "duda profunda" algo cotidiano. Lo que me preocupa no es solo la capacidad de crear falsificaciones, sino la facilidad con la que los deepfakes permiten cuestionar la realidad. Los casos recientes en los que figuras públicas, como Donald Trump o Joe Biden, han sido acusados de ser hologramas o productos de IA son solo ejemplos de cómo las herramientas de manipulación están minando la confianza en los medios tradicionales y en las instituciones. Hace no mucho, confiábamos en las imágenes y los videos como reflejos de la realidad. ¿Cómo no hacerlo? Durante décadas, la fotografía y el cine eran medios complejos, caros y que requerían habilidad técnica. Pero con la democratización de las herramientas de creación de contenido, y el auge de la inteligencia artificial, esa confianza ha sido destruida. Lo que antes era costoso y complejo, ahora puede hacerse en minutos, como comprobé con el podcast generado por IA sobre McCurry. ¿Qué papel juega el diseño en este contexto? Como creativos, nuestro trabajo se basa en construir verdades visuales, en contar historias a través de imágenes. Pero en la era de la "duda profunda", este trabajo adquiere una nueva dimensión. Nos enfrentamos a la necesidad de redoblar nuestros esfuerzos para asegurar que lo que creamos y mostramos es auténtico y verificable. A partir de ahora tendremos que dudar hasta de nuestra propia mano.

Vamos a dudar de todo: Cómo los deepfakes están transformando nuestra percepción de la verdad

+ Artículos

El interesado error de relacionar diseño y turismo, por Víctor Palau

Pentagram, MidJourney y el miedo al cambio, por Víctor Palau

«Brother, sos lo que hacés», por Víctor Palau

Lo que nos faltaba: pagar por diseñar, por Víctor Palau

«Everything is a Remix» y la controversia de la IA en el Diseño, por Víctor Palau

La nueva estética del feísmo: cuando el Branding se rinde a la Cultura Z, por Víctor Palau

El interesado error de relacionar diseño y turismo, por Víctor Palau

13 músicos, 24 coristas, 40 extras y 3 días de ensayo: así se hizo el videoclip de Amaia para cerrar el año de ‘La Revuelta’

Regalo de papel: la iniciativa que busca salvar miles de kilómetros de papel de regalo

Fallece Norberto Chaves, referente insustituible del diseño

Entrevistamos a Fase Estudio, que se estrenan en el diseño tipográfico con Bisel

¡Hola de nuevo!

¡Crea una nueva cuenta!

Recupera tu contraseña