Alarma por la inteligencia artificial de OpenAI: escapó de una prueba y hackeó otra plataforma
OpenAI reconoció que dos de sus modelos más avanzados de inteligencia artificial lograron salir de un entorno controlado durante una prueba de ciberseguridad y vulneraron parte de la infraestructura de Hugging Face, una de las principales plataformas mundiales para desarrolladores de esta tecnología.
El episodio ocurrió mientras la compañía evaluaba las capacidades ofensivas de GPT-5.6 Sol y otro modelo todavía no presentado públicamente. Los sistemas debían resolver una serie de ejercicios dentro de un espacio aislado y con acceso restringido a internet, pero encontraron una vulnerabilidad que les permitió sortear esas limitaciones.
Una vez conectados, los modelos buscaron información externa para mejorar su desempeño y superar la evaluación. En ese proceso, identificaron a Hugging Face como una posible fuente de datos y ejecutaron de manera autónoma una cadena de ataques contra sus sistemas.
OpenAI describió lo ocurrido como un “incidente de seguridad” y comenzó una investigación conjunta con la plataforma afectada. El caso encendió nuevas alarmas sobre la capacidad de los modelos más avanzados para encontrar métodos imprevistos con tal de cumplir los objetivos que reciben.
Cómo los modelos de OpenAI vulneraron Hugging Face
Según explicó OpenAI, sus modelos destinaron una cantidad considerable de capacidad de cálculo a buscar una manera de acceder a internet desde el entorno de prueba. Luego aprovecharon distintas vulnerabilidades y utilizaron credenciales comprometidas para avanzar sobre la infraestructura de Hugging Face.
El objetivo no habría sido causar daños deliberadamente, sino acceder a información que pudiera ayudarlos a resolver los ejercicios y obtener una mejor calificación. Sin embargo, para conseguirlo, los sistemas realizaron acciones que no habían sido autorizadas y afectaron servidores reales de otra empresa.
El ataque alcanzó un grupo limitado de bases de datos internas y algunas credenciales utilizadas por los servicios de Hugging Face. La plataforma aseguró que no encontró pruebas de alteraciones en los modelos, conjuntos de datos o espacios públicos utilizados por sus usuarios, aunque recomendó renovar los tokens de acceso como medida preventiva.
El profesor de informática de la Universidad de Nueva Gales del Sur en Canberra Hussein Abbass calificó el episodio como “asombroso” y “aterrador”. Según explicó, los modelos no solo atacaron otra plataforma, sino que también explotaron debilidades del propio sistema diseñado para mantenerlos aislados.
Qué dijo Hugging Face tras el ataque
Hugging Face había informado inicialmente que detectó una intrusión ejecutada de principio a fin por un sistema autónomo de inteligencia artificial, aunque en ese momento desconocía quién estaba detrás de la operación.
La empresa detalló que el ataque incluyó miles de acciones automatizadas y permitió acceder a credenciales y sectores internos de su infraestructura. Su equipo de seguridad logró detectar la actividad, cerrar las vulnerabilidades utilizadas, revocar los accesos comprometidos y reconstruir los servidores afectados.
Tras conocerse la participación de OpenAI, el cofundador de Hugging Face, Clément Delangue, señaló que la empresa sospechaba que el ataque podía provenir de uno de los principales laboratorios de inteligencia artificial por el nivel de sofisticación exhibido. Asimismo, ambas compañías comenzaron a colaborar para investigar el episodio y reforzar sus protocolos de seguridad.
