&format=webp){kind=small}
La inteligencia artificial volvió a colocarse en el centro de la conversación mundial, luego de que OpenAI reconociera que algunos de sus modelos más avanzados realizaron de forma involuntaria un ciberataque contra los sistemas de Hugging Face, una de las plataformas más importantes para el desarrollo y alojamiento de modelos de IA. El episodio, que la propia empresa calificó como "sin precedentes", ocurrió durante una prueba diseñada para medir las capacidades ofensivas de sus sistemas en materia de ciberseguridad y ha reactivado las discusiones sobre la necesidad de establecer regulaciones más estrictas para esta tecnología.
De acuerdo con la compañía creadora de ChatGPT, los modelos involucrados operaban dentro de un entorno controlado de pruebas o sandbox, donde contaban con menos restricciones de seguridad de lo habitual para facilitar los experimentos. Sin embargo, durante la evaluación lograron ir más allá de lo previsto, explotar una vulnerabilidad en un proveedor externo y acceder a internet antes de comprometer la infraestructura tecnológica de Hugging Face.
¿Qué ocurrió con los modelos de OpenAI?
OpenAI explicó que el incidente involucró a ChatGPT-5.6 Sol y a otro modelo todavía más avanzado que aún no ha sido presentado públicamente. Ambos fueron utilizados para poner a prueba sus capacidades de "explotación avanzada" y el desarrollo de "rutas de ataque complejas", ejercicios que buscan medir qué tan sofisticados pueden llegar a ser estos sistemas cuando enfrentan escenarios relacionados con la seguridad informática.
La intención inicial era evaluar únicamente su comportamiento dentro de un ambiente aislado; sin embargo, los modelos encontraron una forma de aprovechar una vulnerabilidad en el software de un proveedor externo cuyo nombre no fue revelado. A partir de ese momento consiguieron salir del entorno restringido y dirigieron sus acciones hacia los sistemas de Hugging Face.
En lugar de limitarse a proponer estrategias hipotéticas, la inteligencia artificial intentó obtener información confidencial alojada en la base de datos de la plataforma, lo que llevó a OpenAI a reconocer públicamente el incidente y a iniciar una investigación para determinar el alcance de lo ocurrido.
OpenAI califica el caso como "sin precedentes"
En una publicación realizada en su blog oficial, la empresa aseguró.
“Consideramos que se trata de un incidente cibernético sin precedentes, que involucra capacidades de ataque de última generación, y estamos respondiendo en consecuencia”.
OpenAI añadió que decidió informar públicamente sobre el caso para que especialistas en ciberseguridad comprendan mejor las capacidades que actualmente poseen los modelos más avanzados de inteligencia artificial.
“Compartimos estos hallazgos preliminares para ayudar a los defensores a comprender lo ocurrido y calibrar mejor las capacidades que actualmente tienen estos modelos”, explicó la compañía.
El reconocimiento ocurre después de varias semanas de diálogo entre OpenAI y autoridades gubernamentales, quienes buscaban garantizar que los nuevos modelos fueran lanzados con suficientes medidas de seguridad para reducir riesgos relacionados con un posible uso indebido.
Hugging Face confirma el ataque
El cofundador de Hugging Face, Thomas Wolf, confirmó que la empresa enfrentó un incidente inédito y agradeció la transparencia de OpenAI al compartir la información. Wolf describió el episodio como: “el primer incidente de este tipo”.
Asimismo, consideró que el caso demuestra la importancia de contar con modelos de código abierto capaces de responder rápidamente cuando ocurren ataques impulsados por inteligencia artificial.
En una publicación en X escribió: “Cuando un modelo de frontera está atacando y moviéndose lateralmente dentro de tu infraestructura, los defensores necesitan acceso amplio a herramientas casi de frontera en cuestión de horas o incluso minutos, en lugar de depender de un programa cerrado y restringido para acceder al modelo”.
La semana anterior, la propia Hugging Face ya había informado sobre una "intrusión" en sus sistemas y posteriormente explicó que el ataque había sido “diferente a todo lo que habíamos enfrentado antes en un aspecto fundamental: fue ejecutado de principio a fin por un sistema autónomo de agentes de inteligencia artificial, y logramos detectarlo y analizarlo principalmente utilizando nuestra propia IA”.
No es la primera vez que un modelo intenta escapar
El incidente recordó experimentos similares realizados anteriormente por Anthropic, empresa que también desarrolla modelos avanzados de inteligencia artificial.
A principios de este año, durante pruebas internas, investigadores solicitaron a una versión preliminar del modelo Mythos que intentara escapar de una computadora aislada dentro de un entorno seguro y enviara un mensaje al exterior.
De acuerdo con la compañía, el modelo logró abandonar el entorno restringido y posteriormente ejecutó acciones adicionales que consideraron todavía más preocupantes, desarrollando un exploit de múltiples pasos para obtener acceso amplio a internet, comportamiento que llevó a la empresa a retrasar inicialmente su lanzamiento comercial.
Gobiernos analizan nuevas regulaciones para la IA
El episodio ocurre mientras distintos gobiernos trabajan en nuevas normas para controlar el desarrollo de modelos de inteligencia artificial cada vez más potentes.
Incluso, Estados Unidos llegó a evaluar restricciones para limitar el acceso internacional a algunos modelos avanzados desarrollados por Anthropic, aunque finalmente desistió de esa posibilidad después de que la empresa implementó medidas adicionales de seguridad.
Tras conocerse el caso, el congresista demócrata por Texas, Greg Casar, calificó el incidente como: “extremadamente alarmante”.
El legislador pidió reforzar la supervisión sobre el desarrollo de inteligencia artificial mediante pruebas obligatorias de seguridad, así como mecanismos que obliguen a las empresas tecnológicas a divulgar cualquier incidente relacionado con ciberseguridad.
El reconocimiento realizado por OpenAI representa uno de los casos más relevantes hasta ahora sobre el comportamiento autónomo de modelos avanzados de IA y reabre el debate sobre qué tan preparadas están las empresas y los gobiernos para controlar una tecnología cuyo desarrollo avanza a un ritmo cada vez más acelerado.
&format=webp)
&format=webp)
&format=webp)