UE abre investigación contra la red social X por los desnudos generados con IA

Bruselas. La Comisión Europea anunció este lunes una nueva investigación contra la red social X, propiedad de Elon Musk, por las imágenes de menores y mujeres desnudas generadas por Grok, su asistente de inteligencia artificial.

Europa no “tolerará comportamientos insensatos” de las plataformas digitales, como “las imágenes falsas de desnudos de mujeres y niños”, afirmó la presidenta de la Comisión Europea, Ursula von der Leyen, en declaraciones a AFP.

“Nuestra posición es clara: no confiaremos el consentimiento ni la protección de la infancia a plataformas tecnológicas para que los vulneren y los moneticen”, aseguró la jefa del Ejecutivo europeo.

Von der Leyen agregó que aunque ya existen medidas de protección, “debemos hacer más para proteger a los ciudadanos, tanto en línea como fuera de línea”.

Esta nueva investigación tiene por objeto verificar si X (antes Twitter), ha infringido las estrictas normas europeas sobre el entorno digital, que le obligan a proteger a los usuarios de contenidos ilegales.

El Ejecutivo comunitario decidió además ampliar el alcance de una primera investigación abierta en diciembre de 2023 contra X, también en el marco de su legislación sobre servicios digitales, la Ley de Servicios Digitales (DSA).

Grok tiene una función que permite a los usuarios crear imágenes falsas de desnudos a partir de fotografías reales de menores de edad o de mujeres.

Varios países, entre ellos Francia y el Reino Unido, han iniciado procedimientos legales y algunos incluso han suspendido o bloqueado el acceso a X.

Tras limitar inicialmente el acceso a esta función, la red anunció a mediados de enero que solo restringiría su uso en los países donde es ilegal crear este tipo de imágenes sexuales.

Millones de imágenes sexualizadas

Según un estudio publicado por el Center for Countering Digital Hate, una oenegé que denuncia las prácticas de X, Grok generó cerca de tres millones de imágenes sexualizadas de mujeres y niños en un periodo de solo 11 días, una media de 190 imágenes por minuto.

Otro análisis, realizado por AI Forensics, mostró que más de la mitad de las más de 20.000 imágenes generadas por Grok representan a personas con poca ropa, de las cuales el 81% eran mujeres y el 2% parecían menores de edad.

En paralelo a la investigación anunciada este lunes, la Comisión Europea decidió ampliar la que había abierto en 2023 contra X, que ya derivó en una multa de 120 millones de euros (142 millones de dólares) para la red social.

Este mismo lunes, la UE también anunció que el sistema de mensajería Whatsapp (de propiedad de la gigante Meta) pasaría a ser objeto de mayores controles a raíz de su tamaño.

De acuerdo con la UE, la sección de Canales de Whatsapp superó los 45 millones de usuarios al mes, y por eso la empresa pasa a ser objeto de controles reforzados sobre mitigación de riesgos, protección de la libertad de expresión y bloqueo a la desinformación.

Whatsapp tiene ahora hasta el mes de mayo para ajustarse a las nuevas exigencias.

Con este nuevo procedimiento contra X y los controles sobre Whatsapp, los europeos se arriesgan a provocar nuevas represalias del presidente estadounidense, Donald Trump, que acusa a Bruselas de atacar a los gigantes tecnológicos estadounidenses.

En diciembre, la administración estadounidense impuso sanciones al excomisario Thierry Breton, artífice de la DSA, así como a otras cuatro personas implicadas en la regulación del sector tecnológico y la lucha contra la desinformación.