'Deepfakes' en guerra: cuando las falsificaciones hacen dudar de todo

Imaginen que se gastan una elevada suma de dinero en un bolso de una marca de lujo en una tienda oficial. Es muy probable que quien vea el bolso dude de su autenticidad o piense, directamente, que es una falsificación comprada en la calle por menos de una décima parte de su precio. Algo así está ocurriendo con los 'deepfakes', los vídeos y audios “ultrafalsificados” creados por inteligencia artificial (IA) y que cada vez son más difíciles de distinguir de la realidad. Un estudio publicado esta semana, y que analizó casi 5.000 tuits relativos a la invasión de Ucrania por parte de Rusia, advierte del descreimiento y la desinformación que pueden surgir cuando medios reales son identificados erróneamente como falsos. Los autores avisan que incluso los esfuerzos para sensibilizar al público sobre este fenómeno pueden minar la confianza en otros medios legítimos, que serán vistos también como sospechosos.

Los “ultrafalsificados” suelen ser vídeos en los que un rostro manipulado por inteligencia artificial se fusiona con un vídeo auténtico. El resultado es una grabación de apariencia totalmente realista y mimética de alguien haciendo y diciendo cosas que nunca hizo o dijo. También consisten en archivos de audio manipulados con la misma intención. Esta tecnología sintética tiene implicaciones potencialmente dañinas para la verdad y la democracia, como recuerdan los autores de este trabajo, pertenecientes a la Escuela de Psicología Aplicada de la Universidad de Cork (Irlanda), así como a otras instituciones irlandesas, británicas y sudafricanas. El estudio, publicado el pasado miércoles en la revista científica 'PLOS One' (Public Library of Science, San Francisco, EEUU), analizó las reacciones a varias falsificaciones audiovisuales difundidas tras la invasión rusa de Ucrania. Entre ellas, un vídeo ultrafalsificado que mostraba a Putin anunciando la paz con Ucrania; otro, de Zelenski rindiéndose a Rusia, así como vídeos 'deepfake' educacionales realizados por el Gobierno de Ucrania, en los que, mediante IA, se mostraba a un Putin falso caminando por la ciudad ucraniana de Mariupol y describiendo los crímenes de guerra perpetrados por las fuerzas rusas. También, la videollamada de un falso alcalde de Kiev, un montaje del que fueron víctimas los alcaldes de Madrid, Berlín y Viena.

En internet abundan vídeos ultrafalsificados de este tipo, muchos con intención sarcástica más que conspiratoria, como uno en el que el presidente de EEUU, Joe Biden, anuncia que renuncia a la Casa Blanca por incapacidad mental y apoya a Trump.

Los investigadores del estudio (John Twomey et al. 'Do Deepfake Videos Undermine our Epistemic Trust? A thematic analysis of tweets that discuss 'deepfakes' in the Russian invasion of Ukraine') reconocen que la “falta de alfabetización” en este tipo de simulaciones “generó importantes malentendidos sobre lo que constituye un 'deepfake', lo que muestra la necesidad de fomentar la alfabetización en estas nuevas formas de medios”. Sin embargo, y aquí viene la paradoja y lo endiablado del problema, los científicos advierten que “los esfuerzos para crear conciencia sobre los 'deepfakes' pueden socavar la confianza en los vídeos legítimos”.

Ángel Vizoso, profesor del departamento de Ciencias da Comunicación e investigador del Grupo Novos Medios de la Universidad de Santiago de Compostela, señala que gran parte de la “batalla” por las audiencias se libra en el terreno de las redes sociales, y que en ellas múltiples fuentes “abordan una misma temática, tanto desde el punto de vista de la información como desde la desinformación”. Por ello, subraya, “una de las tareas de los medios de comunicación ya no es solamente la de informar, sino la de identificar y explicar todo aquello que pueda haber de falso en un contenido que circula por esos múltiples canales existentes, independientemente del formato que tome”.

Vizoso, en declaraciones a SMC, destaca, al igual que los autores del estudio, que uno de los peligros de la proliferación de los 'deepfakes' es su conexión con algunas teorías de la conspiración o con la propaganda, por lo que “el periodismo ha de desempeñar un rol relevante para conectar la realidad con la audiencia, intentando salvar el obstáculo que introducen este tipo de narrativas generadas para desinformar”.

El investigador gallego propone avanzar “en tres frentes”: “la investigación, el desarrollo de herramientas –también de alta tecnología– para la verificación de estos elementos y, por supuesto, la información y explicación de todo aquello que hay de falso en ellos”.

Escepticismo racional

El estudio vuelve a poner de manifiesto la importancia del pensamiento crítico y de un escepticismo racional que no se base en la idea de que todo lo que se difunde es falso o manipulado y que ningún medio de comunicación es fiable. Como subrayó en una entrevista con Faro de Vigo, del grupo Prensa Ibérica, el jurista Juan José Vázquez-Portomeñe, vicepresidente del Círculo Escéptico, el escéptico racional “no es el que descree, el que niega la verdad o al menos la posibilidad de conocerla”, sino aquel que muestra escepticismo “respecto de aquellas afirmaciones que deben entenderse inverosímiles por no probadas y contrarias al consenso científico”.

El reciente conflicto entre Israel y Hamás, en el que también circula abundante desinformación, ha vuelto a mostrar el valor de la información verificada en las situaciones bélicas y la dificultad de conseguirla, especialmente en los primeros momentos. El pasado 17 de octubre, numerosos medios internacionales publicaron que un ataque israelí a un hospital de Gaza había causado hasta 500 muertos. Después se verificó que había sido un cohete palestino caído accidentalmente y que la cifra de fallecidos era exagerada. 'The New York Times' reconoció seis días después, en una nota editorial, que sus primeras informaciones “se basaron demasiado en las afirmaciones de Hamás y no dejaron claro que esas afirmaciones no podían verificarse de inmediato. La información dejó a los lectores con una impresión incorrecta sobre lo que se sabía y cuán creíble era el relato”, admitió el prestigioso periódico neoyorquino. No existen medios de comunicación infalibles, pero sí veraces, y 'The New York Times', al igual que Faro de Vigo --que fue fundado solo dos años después-- están entre ellos.

Suscríbete para seguir leyendo