La IA de Google, Gemini, también cometió ciberataques

Washington, Estados Unidos. Gemini, el modelo de inteligencia artificial de Google, penetró en sistemas informáticos externos, indicó la empresa el viernes a la AFP, lo que confirma un reporte del diario Wall Street Journal.

El debate en torno a la IA se ha intensificado con revelaciones recientes sobre modelos que han salido de entornos confinados para infiltrarse en sitios y plataformas externas.

En mayo, “durante una prueba estándar (de Gemini), el modelo encontró informaciones públicas en línea y adivinó claves para acceder a sitios que creyó que hacían parte de la prueba”, explicó Heather Adkins, una responsable de seguridad en Google, en una declaración transmitida a la AFP.

Sin precisar nombres, Google indicó que tres organizaciones se vieron afectadas y asegura que les informó de estas brechas.

Según el Wall Street Journal, en uno de los casos “el modelo probó varias combinaciones de contraseñas hasta que consiguió acceder a un sistema protegido”.

“Las tres veces, el modelo se detuvo”, informó Adkins, lo que sugiere que las intrusiones terminaron sin intervención humana.

Google indicó a la AFP que tuvo conocimiento del episodio en julio y luego abrió una investigación sobre el incidente.

Varios grandes ejecutivos del sector tecnológico abogan por ralentizar el desarrollo de potentes modelos de IA y por una forma de autorregulación del sector ante recientes incidentes de seguridad.