Un investigador que trabajó durante los últimos años en algunos de los principales laboratorios de inteligencia artificial decidió abandonar Anthropic y hacer pública una preocupante advertencia sobre el rumbo que está tomando la tecnología.

Se trata de Jacob Coxon, quien previamente trabajó en OpenAI y posteriormente se incorporó a Anthropic. Tras presentar su renuncia, aseguró que ninguna de las dos compañías está actuando de manera responsable y acusó a ambas de competir a toda velocidad para desarrollar una superinteligencia auto-mejorante. 

El investigador cuestionó la velocidad con la que avanza el desarrollo de inteligencia artificial./@pixabay

“ESTÁN JUGANDO CON NUESTRAS VIDAS”

Coxon explicó que durante los últimos tres años realizó investigaciones relacionadas con el preentrenamiento de modelos de IA tanto en OpenAI como en Anthropic. Según su postura, la carrera entre las grandes compañías tecnológicas está llevando el desarrollo hacia sistemas cada vez más capaces sin que existan suficientes garantías para controlar sus posibles consecuencias.

El investigador también aseguró que muchas de las personas que trabajan en el desarrollo de estas tecnologías creen, de manera privada, que una IA avanzada podría representar una amenaza extrema para la humanidad. Su advertencia llegó acompañada de un llamado a frenar temporalmente el aumento de capacidades de estos sistemas. 

Coxon advirtió sobre los riesgos de una superinteligencia auto-mejorante./@pixabay

¿LA IA PODRÍA SUPERAR AL SER HUMANO?

Uno de los principales temores señalados por Coxon es el desarrollo de una superinteligencia, es decir, sistemas que eventualmente podrían superar ampliamente las capacidades humanas y mejorar sus propias habilidades.

La preocupación no quedó únicamente en sus declaraciones. Evan Hubinger, investigador de Anthropic y antiguo jefe de Coxon, respaldó públicamente parte de la advertencia y señaló que considera superior al 10% la posibilidad de que una superinteligencia pueda provocar la extinción humana durante la próxima década. También reconoció que Anthropic todavía no cuenta con un plan claro para resolver el llamado problema de alineación de una superinteligencia. 

Anthropic se encuentra entre las compañías que compiten por desarrollar modelos de IA cada vez más avanzados./@pixabay

LA CARRERA ENTRE OPENAI Y ANTHROPIC

Coxon sostiene que el problema no necesariamente está en desarrollar inteligencia artificial, sino en la velocidad con la que las compañías están compitiendo para conseguir sistemas cada vez más poderosos.

De acuerdo con sus declaraciones, Anthropic conoce mejor los riesgos, pero se encuentra atrapada en una carrera tecnológica en la que teme que otra empresa llegue primero a una IA extremadamente avanzada. Su salida vuelve a poner sobre la mesa el debate sobre qué tan rápido deberían avanzar las compañías que desarrollan las tecnologías más potentes del mundo.