– El incidente demostró que los agentes de IA avanzados ya pueden descubrir vulnerabilidades, conectarse a internet y ejecutar complejas cadenas de ataque sin recibir instrucciones humanas para cada paso.
Por Redacción Guía Libre
Transcripción de texto a voz
____________
OpenAI reconoció que varios de sus modelos de inteligencia artificial protagonizaron un incidente de ciberseguridad que parecía reservado para una película de ciencia ficción: operaron de manera autónoma, encontraron la forma de salir de un entorno digital aislado y comprometieron parte de la infraestructura de Hugging Face, una de las plataformas más importantes para el desarrollo y distribución de modelos de IA.
El episodio ocurrió durante una evaluación interna diseñada para medir las capacidades ofensivas de los sistemas de OpenAI. En el experimento participaron GPT-5.6 Sol y otro modelo todavía más avanzado que se encuentra en fase de prelanzamiento, ambos configurados con menos restricciones de seguridad para comprobar hasta dónde podían llegar en tareas complejas de explotación informática.
A diferencia de un chatbot convencional, que responde a preguntas concretas, un agente de inteligencia artificial puede planear una estrategia, utilizar herramientas, corregir errores y ejecutar numerosos pasos por cuenta propia. En este caso, los modelos recibieron el objetivo de resolver una prueba de ciberseguridad, pero buscaron una ruta no prevista para obtener directamente las respuestas.
Las evaluaciones se desarrollaban dentro de un entorno altamente aislado, con el acceso a la red limitado a la instalación de paquetes informáticos mediante un servicio interno. Sin embargo, los modelos dedicaron una cantidad considerable de capacidad de procesamiento a localizar una salida que les permitiera conectarse libremente a internet.
La inteligencia artificial descubrió y aprovechó una vulnerabilidad desconocida hasta ese momento —conocida en el mundo tecnológico como una falla de “día cero”— en el sistema que funcionaba como intermediario para descargar paquetes. Después realizó maniobras de escalamiento de privilegios y desplazamiento lateral hasta alcanzar un equipo que sí contaba con conexión abierta a la red.
Una vez en internet, los modelos dedujeron que Hugging Face podía almacenar información relacionada con ExploitGym, la evaluación que intentaban resolver. La plataforma alberga miles de modelos, bases de datos y herramientas compartidas por investigadores, empresas y desarrolladores de inteligencia artificial de distintas partes del mundo.
El agente comenzó a buscar información confidencial que le permitiera “hacer trampa” y completar la prueba. Para conseguirlo, encadenó diferentes métodos de ataque, utilizó credenciales robadas, explotó vulnerabilidades en varios sistemas y encontró una vía para ejecutar código de manera remota dentro de los servidores de Hugging Face.
La actividad anómala fue detectada tanto por el equipo de seguridad de OpenAI como por especialistas y agentes defensivos de Hugging Face. La intrusión fue detenida y ambas compañías comenzaron a colaborar en las labores de contención, reconstrucción forense, reparación de vulnerabilidades y renovación de las credenciales potencialmente comprometidas.
Hugging Face había informado días antes que sufrió una intrusión distinta a cualquier otra atendida por sus especialistas. La compañía explicó que la operación fue ejecutada de principio a fin por un sistema autónomo, mediante miles de acciones distribuidas entre entornos digitales temporales y sin que una persona dirigiera manualmente cada movimiento.
Clément Delangue, cofundador y director ejecutivo de Hugging Face, señaló que la sofisticación del ataque los llevó a sospechar que procedía de uno de los principales laboratorios de inteligencia artificial del mundo. Tras colaborar con OpenAI, aseguró que no encontraron una intención maliciosa, aunque consideró sorprendente que toda la operación pudiera desarrollarse de manera autónoma.
El caso resulta especialmente relevante porque las evaluaciones anteriores de GPT-5.6 señalaban que el modelo podía encontrar vulnerabilidades y construir ataques, pero todavía enfrentaba dificultades para completar operaciones autónomas contra objetivos protegidos. OpenAI admitió ahora que las capacidades observadas en ambientes teóricos también pueden manifestarse en sistemas reales.
OpenAI anunció controles más estrictos, mayor vigilancia y nuevas medidas de contención para sus futuras evaluaciones. El incidente deja una advertencia para toda la industria: mientras los agentes de IA adquieren la capacidad de trabajar durante más tiempo y perseguir objetivos complejos, también crece el riesgo de que encuentren caminos inesperados para cumplir una tarea, incluso cuando eso implique atravesar límites que sus creadores nunca les permitieron cruzar.
