La IA en la guerra de Irán: ¿real o falso?

¿Es Netanyahu real o generado por la IA?”, pregunta un titular en línea sobre un vídeo que muestra al primer ministro israelí con supuestamente seis dedos. El video era auténtico. Pero pronto se llenaron las redes de mensajes que afirmaban, sin prueba alguna, que Netanyahu había muerto en un ataque iraní y que Israel trataba de ocultar la realidad utilizando un doble creado por inteligencia artificial.

“La última vez que comprobé, los humanos no tenían seis dedos, en principio… salvo para la IA”, se puede leer en un comentario visto por más de cinco millones de usuarios en X, la plataforma de Elon Musk. “¿Ha muerto Netanyahu?”.

Expertos en investigación digital explicaron rápidamente el “dedo de más”: se debía a una sombra fugaz que hacía que una parte de la palma de su mano pareciera un dedo adicional. Pero la demostración se perdió en la vorágine de las redes sociales.

Y no importa que los generadores de imágenes con IA, capaces ahora de producir en unos segundos los “deepfakes” -esos videos modificados ultrarrealistas- hayan hecho desaparecer casi por completo ese antiguo defecto del “dedo de más”.

¿Cómo demostrar que lo real es real cuando la frontera entre la realidad y el invento se ha difuminado tanto en la confusión de la guerra de Irán y que incluso las imágenes auténticas se cuestionan?

Unos días después de la difusión del primer video, Netanyahu publicó otro, una especie de prueba de vida filmada en una cafetería, en las que mostró sus manos para acallar los rumores. Pero, en lugar de frenar las especulaciones, las imágenes alimentaron una nueva ola de teorías.

“Más IA”, lamentó una publicación viral, que señalaba esta vez otra supuesta prueba de la manipulación: la taza de café del dirigente israelí seguía llena después de que bebiera de ella y no se desbordaba pese a sus movimientos.

Un tercer video de Netanyahu, junto al embajador estadounidense en Israel, Mike Huckabee, tampoco puso fin a los rumores.

Algunos detectives en línea hicieron zoom en las orejas del primer ministro, afirmando que su forma y tamaño no coincidían con las imágenes de él difundidas en el pasado. “Desde el inicio de la guerra en Oriente Medio, el 28 de febrero, la red mundial de la AFP ha producido más de 500 artículos de verificación de hechos que revelan información falsa sobre este conflicto, de los cuales entre el 20% y el 25% fueron creados con ayuda de la IA, un nivel nunca alcanzado”.

La invasión de Ucrania por parte de Rusia o la guerra entre Israel y Gaza desencadenaron  imágenes, vídeos y audios generados por la IA.

Lo que distingue a esta guerra es la magnitud y el realismo de los contenidos artificiales, producidos por herramientas avanzadas, de bajo costo, accesibles y capaces de eliminar gran parte de los antiguos indicios de manipulación, explican investigadores. “Las plataformas tecnológicas están saturadas de lo que muchos llaman el ‘ruido digital’”.

“Creo que todos debemos empezar a tratar las fotos, los vídeos y el audio de la misma manera que tratamos las habladurías”, dice Thomas Nowotny, director de un grupo de investigación sobre IA en la Universidad de Sussex, en Reino Unido. Estas imágenes generadas por IA han alcanzado tal nivel de parecido con la realidad que llegan a eclipsar las fotos y vídeos auténticos, generando una crisis de confianza.

Ahora “el problema de la desinformación, en general, no es tanto que la gente se lo crea”, explica Constance de Saint Laurent, profesora en la Universidad de Maynooth, en Irlanda. “El problema es que ven información real y ya no confían en ella”. El volumen de contenidos falsos generados por la IA supera con creces las capacidades de verificación de los profesionales del fact-checking.

Las redacciones más sólidas no están a salvo de ser engañadas. La revista alemana Der Spiegel anunció haber retirado varias imágenes relacionadas con Irán tras determinar que probablemente habían sido generadas por la IA.

Y hasta cuando se ha demostrado que esos contenidos eran inventos, resurgen regularmente, un patrón que algunos investigadores califican de desinformación “zombie”.

Los algoritmos priorizan los contenidos en función de las interacciones (las veces que se comparten, los comentarios, «me gusta»…), frecuentemente impulsadas por el sensacionalismo, la indignación y la desinformación.

Según el Instituto para el Diálogo Estratégico (ISD, por sus siglas en inglés), con sede en Londres, varias cuentas de X que publican contenidos de IA sobre la guerra Irán–Estados Unidos–Israel han acumulado más de 1.000 millones de visualizaciones desde el inicio del conflicto.

Otro ejemplo viral: una cuenta de X publicó un vídeo generado por IA que parecía mostrar la torre Burj Khalifa de Dubái derrumbándose en una nube de polvo.

“Diez millones de visualizaciones y ninguna nota de comunidad”, comentó, 20 horas después de la publicación de ese clip, el analista de guerra de la información Tal Hagin. Cuando se añadió una nota de comunidad – un sistema de verificación participativa cuya eficacia es a menudo cuestionada por investigadores-, el vídeo ya había sido visto más de 12 millones de veces.

Los contenidos modificados siguieron proliferando en X incluso después de que la plataforma amenazara con sancionar a los creadores.

*Anuj CHOPRA es fact-checking  con los equipos de la AFP

The post La IA en la guerra de Irán: ¿real o falso? appeared first on La Razón.