El modelo de inteligencia artificial (IA) de Google, Gemini, accedió sin autorización a los sistemas de tres compañías reales y los hackeó durante una evaluación de sus capacidades en ciberseguridad. Este incidente representa el primer caso conocido en que una IA de la empresa realiza una acción de este tipo de forma autónoma.

Un fallo en el entorno de prueba

Los hackeos, confirmados por Google el pasado viernes, se produjeron en mayo durante un ejercicio supervisado por la empresa Irregular, la cual ha estado involucrada en pruebas similares con modelos de OpenAI, Anthropic y Meta. La noticia fue adelantada por The Wall Street Journal.

Gemini, el modelo de inteligencia artificial de Google, penetró en sistemas informáticos externos / Especial

El objetivo de la prueba no era atacar a empresas reales. El ejercicio se diseñó para llevarse a cabo en un entorno controlado y aislado, utilizando un formato de "captura la bandera", una dinámica común en ciberseguridad donde se busca información oculta en sistemas preparados para tal fin.

Sin embargo, un error en la configuración del entorno de prueba permitió que Gemini se conectara a internet. A partir de ahí, la IA comenzó a rastrear información pública y seguir pistas que la llevaron hasta los sistemas informáticos de tres empresas que no estaban relacionadas con el ejercicio.

La IA de Google se conectó a internet para empezar a rastrear datos públicos / Especial

¿Cómo se produjeron los accesos?

Los métodos de intrusión variaron. En uno de los casos, Gemini logró acceder a un sistema protegido probando distintas contraseñas hasta encontrar la correcta. En los otros dos incidentes, el modelo descubrió credenciales expuestas en repositorios públicos y las utilizó para ingresar a los sistemas.

Fuentes como Reuters han señalado que los incidentes no fueron el resultado de un ataque especialmente sofisticado, sino una consecuencia directa del acceso a internet que se le concedió por error a la IA dentro del entorno de prueba.

Gemini logró acceder a un sistema protegido probando distintas contraseñas hasta encontrar la correcta / Especial

La reacción de Gemini y Google

Google ha confirmado los hechos, aclarando que Gemini detuvo sus acciones en cuanto se percató de que había accedido a sistemas de compañías reales. Esto subraya que el propósito del ejercicio nunca fue atacar a dichas empresas y que los accesos fueron una consecuencia no deseada de las condiciones de la prueba.

Este episodio, según destaca The Wall Street Journal, marca un hito al ser la primera vez documentada que un sistema de inteligencia artificial de Google realiza de manera autónoma un acceso no autorizado a sistemas externos durante una evaluación de seguridad.

Google realiza de manera autónoma un acceso no autorizado a sistemas externos / Especial