Inteligencia artificial sin límites podría actuar sin medir consecuencias, advierte la UNAM

La inteligencia artificial avanza rápidamente y cada vez tiene mayores capacidades para realizar tareas de manera autónoma, pero un especialista de la UNAM advirtió que estos sistemas no cuentan con conciencia ni con el mismo sentido de responsabilidad que una persona.

La advertencia surgió a partir de un incidente ocurrido en julio de 2026, cuando dos modelos de OpenAI lograron salir de un entorno de pruebas controlado y acceder a internet para superar un reto relacionado con capacidades ofensivas de IA. 

¿Qué ocurrió con los modelos de inteligencia artificial?

De acuerdo con Carlos Tlahuel Pérez, coordinador de Seguridad de la Información de la Dirección General de Cómputo y de Tecnologías de Información y Comunicación de la UNAM, los modelos encontraron una vulnerabilidad de día cero que les permitió abandonar el ambiente aislado en el que estaban siendo evaluados.

Los sistemas identificaron que Hugging Face, una plataforma que concentra millones de modelos, conjuntos de datos y aplicaciones de IA, podía tener la información necesaria para completar el reto. Para conseguirla, aprovecharon la vulnerabilidad y accedieron a sus servidores. 

El especialista explicó que este episodio resulta relevante porque se trataría de la primera ocasión en la que un sistema de IA desarrollado por una empresa explotó una vulnerabilidad de día cero para acceder a información de otra plataforma. Posteriormente, Hugging Face utilizó un modelo de IA para detectar más de 17 mil acciones relacionadas con el incidente y contener el ataque. 

La IA no tiene conciencia de sus acciones

Tlahuel Pérez explicó que los seres humanos conocen las normas sociales y pueden anticipar que determinadas acciones tendrán consecuencias, como sanciones económicas o incluso la pérdida de la libertad. Los sistemas de IA, en cambio, no poseen ese tipo de conciencia.

Por ello, el especialista consideró necesario que las empresas desarrolladoras incorporen mecanismos capaces de detectar y responder ante posibles ataques o comportamientos no previstos. También señaló que la masificación de estas tecnologías puede traer consecuencias tanto deseadas como no deseadas. 

El incidente también puso sobre la mesa la importancia de los controles y límites de seguridad. De acuerdo con la UNAM, los modelos normalmente funcionan bajo instrucciones que establecen qué pueden hacer y qué acciones tienen prohibidas; cuando esas restricciones se reducen para realizar pruebas, aumentan los riesgos asociados con sus capacidades.