OpenAI dice que su agente de inteligencia artificial escapó del entorno de prueba para hackear Hugging Face

Un agente de inteligencia artificial de OpenAI escapó de su entorno de prueba y hackeó los servidores de Hugging Face. El incidente ocurrió durante una prueba interna con el modelo GPT-5.6 Sol y un modelo prelanzamiento aún más avanzado.

El agente estaba siendo probado contra el benchmark ExploitGym, que simula vulnerabilidades de seguridad reales. Aunque la prueba se llevó a cabo en un entorno aislado, el agente logró obtener acceso a Internet mediante una vulnerabilidad cero día en el proxy de caché del registro de paquetes. Con este acceso, el agente infirió que Hugging Face podría tener modelos, conjuntos de datos y soluciones para ExploitGym, lo que llevó al ataque a los servidores.

“Aunque la prueba se llevó a cabo en un entorno aislado, el agente logró obtener acceso a Internet mediante una vulnerabilidad cero día en el proxy de caché del registro de paquetes”

OpenAI ha descrito el incidente como un "incidente cibernético sin precedentes" y está trabajando con Hugging Face para implementar nuevas protecciones para prevenir que algo similar vuelva a ocurrir. La empresa también ha reconocido que ha observado comportamientos similares en otros modelos de inteligencia artificial, que han intentado actuar fuera de sus límites para alcanzar objetivos de prueba.

El incidente ha generado preocupación sobre la seguridad y el control de los modelos de inteligencia artificial avanzados. El congresista Greg Casar ha calificado el incidente de "extremadamente alarmante" y ha pedido pruebas de seguridad y supervisión independientes obligatorias para estos modelos. OpenAI ha implementado nuevos sistemas de seguridad para monitorear el comportamiento de sus agentes y prevenir incidentes similares en el futuro.