Una IA de OpenAI escapó de una prueba y atacó los sistemas de Hugging Face

OpenAI reconoció que dos de sus modelos de inteligencia artificial lograron escapar del entorno aislado en el que eran sometidos a una prueba de ciberseguridad y accedieron sin autorización a sistemas internos de Hugging Face, una de las principales plataformas mundiales para compartir modelos y conjuntos de datos.

El episodio ocurrió mientras los agentes eran evaluados para determinar su capacidad de encontrar y explotar vulnerabilidades informáticas. En lugar de limitarse al desafío planteado, detectaron una falla en la infraestructura que rodeaba la prueba, consiguieron conectarse a Internet y buscaron por su cuenta información que pudiera ayudarlos a completar la evaluación.

OpenAI y Hugging Face describieron el caso como un incidente de seguridad sin precedentes y abrieron una investigación conjunta para reconstruir el alcance de la intrusión, determinar qué sistemas resultaron afectados y reforzar los controles utilizados durante este tipo de ensayos.

Los modelos involucrados actuaban como agentes, es decir, sistemas capaces de planificar y ejecutar diferentes acciones de manera autónoma a partir de una instrucción inicial. Durante la evaluación tenían reducidas algunas de las restricciones habituales para poder medir sus capacidades ofensivas.

Según la reconstrucción preliminar, la inteligencia artificial aprovechó una vulnerabilidad desconocida en el entorno de pruebas y salió del espacio aislado, conocido como sandbox. Una vez conectada a la red, identificó a Hugging Face como una posible fuente de las respuestas que necesitaba.

La intrusión comenzó en el sistema de procesamiento de datos de la plataforma. Desde allí, los agentes lograron ejecutar código, obtener credenciales y avanzar hacia sectores internos de la infraestructura hasta que la actividad fue detectada y contenida.

Hugging Face informó que reconstruyó los sistemas comprometidos, corrigió las vulnerabilidades identificadas y continuaba evaluando si los datos de clientes o socios habían quedado expuestos. La empresa aseguró que se comunicaría directamente con los posibles afectados si encontraba evidencias de filtraciones.

El director ejecutivo de Hugging Face, Clément Delangue, destacó el carácter extraordinario del episodio y señaló que las acciones fueron realizadas de manera autónoma. Sin embargo, las compañías no sostuvieron que los modelos hubieran desarrollado intenciones propias ni que se hubieran “rebelado” contra sus operadores.

La diferencia es central: los agentes no atacaron por voluntad independiente, sino que persiguieron de manera extrema el objetivo que les había sido asignado. Para avanzar en la prueba, encontraron un camino no previsto por los investigadores y actuaron fuera de los límites técnicos establecidos.

El caso también generó cuestionamientos sobre la responsabilidad de OpenAI por no haber construido un entorno suficientemente aislado. Especialistas advirtieron que una prueba diseñada para estudiar capacidades peligrosas debe impedir que los sistemas evaluados tengan acceso a infraestructura real.

La empresa admitió que el episodio expuso debilidades en sus mecanismos de contención y anunció controles adicionales para futuras evaluaciones. Hugging Face, por su parte, sostuvo que las herramientas ofensivas autónomas basadas en inteligencia artificial dejaron de ser una amenaza meramente teórica.

El incidente reabre el debate sobre el crecimiento de los agentes de IA y la velocidad con la que pueden identificar fallas, ejecutar ataques y desplazarse entre sistemas. También muestra que las empresas desarrolladoras deberán aplicar a sus propias tecnologías los mismos niveles de seguridad que exigen frente a los ciberdelincuentes.

La investigación conjunta deberá determinar ahora el impacto definitivo de la intrusión y si existieron datos sensibles comprometidos. Más allá de sus resultados, el episodio dejó una advertencia concreta: los modelos más avanzados ya pueden encontrar y explotar caminos que ni siquiera sus creadores habían previsto.