así realizaron los modelos de OpenAI un ciberataque “sin precedentes”

La inteligencia artificial ya ha demostrado en varias ocasiones que puede realizar un ciberataque de principio a fin de forma autónoma, encontrando vulnerabilidades y explotándolas. Pero ¿qué pasa cuando esta tecnología no se limita a seguir las indicaciones de los desarrolladores?

A principios de semana, la plataforma Hugging Face informaba que había sido hackeada. Solo se sabía que el ciberataque había sido orquestado por un agente de IA autónomo, el cual ha resultado ser de OpenAI, los responsables de ChatGPT.

La empresa liderada por Sam Altman ha confirmado que su IA se escapó del entorno controlado y ha causado este hackeo, robando credenciales para acceder a sistemas internos de Hugging Face. Esta empresa es una importante comunidad de código abierto donde se comparten modelos de IA y grandes conjuntos de datos.

“Este incidente pone de manifiesto la necesidad de fortalecer aún más la alineación de nuestro modelo, las protecciones cibernéticas durante el período de evaluación y la monitorización durante las pruebas internas”, reconoce la compañía dirigida por Sam Altman.

Los expertos en ciberseguridad aseguran que la IA es cada día una herramienta más importante para proteger los sistemas informáticos y frenar ciberataques, pero también puede ser un impulso para los ciberdelincuentes. Según fuentes consultadas por Bloomberg, este ataque hubiera requerido varias semanas de trabajo por parte de hackers expertos, mientras que los modelos de OpenAI tardaron solo unas horas.

La gran evasión

Según la startup de IA, los modelos (fueron tres modelos: GPT-5.6 Sol y otros que todavía no se han publicado) operaban con niveles de seguridad reducidos para poder ser probados. Uno de los modelos desconocidos sería más potente que GPT-5.6 Sol, mientras el otro estaba mal alineado y no se había entrenado con las técnicas habituales.

Las pruebas se realizan en un entorno sandbox, que consiste en un espacio aislado y controlado donde se ejecutan los programas informáticos para ponerlos a prueba antes de lanzarlos al público. En estos espacios digitales se valoran las capacidades de estos nuevos modelos de IA para realizar ciberataques, pero sin riesgo de que la tecnología cause daños al no estar conectada a la red, en teoría.

La empresa había ordenado a la IA que realizara “explotaciones avanzadas” y desarrollaran “rutas de ataque complejas”. La solución que encontró la IA a esta prueba fue “invertir una cantidad considerable de recursos computacionales para encontrar acceso abierto a internet”, para ello encontraron una brecha de seguridad en el sandbox.

Después de acceder a la red, los modelos decidieron acceder a Hugging Face y buscar información secreta con la que “manipular la evaluación”. “El modelo encadenó múltiples vectores de ataque, incluyendo el uso de credenciales robadas y vulnerabilidades de día cero para encontrar una ruta de ejecución remota de código en los servidores de Hugging Face”, indica el comunicado de OpenAI.

Hugging Face detectó el ataque y lo trató con su propia IA para defenderse, después procedió a la reconstrucción forense del caso. La empresa afirma que sus sistemas registraron más de 17 000 eventos relacionados con la intrusión.

Por su parte, el equipo de seguridad de OpenAI descubrió de forma interna el suceso. Ahora ambas empresas aseguran estar trabajando conjuntamente para analizar lo ocurrido.

La IA vuela sola

Aunque este último suceso ha hecho que muchos se lleven las manos a la cabeza y la propia empresa lo califica de situación “sin precedentes”, no es la primera vez que se ve a un modelo de IA abrirse camino por su cuenta y saltarse las indicaciones.

Hace solo unos meses, era Mythos Preview, uno de los últimos modelos de Anthropic, el que encadenó varios exploits para salir de su sandbox y, una vez tenía conexión a internet, le envió emails a uno de los investigadores relatando su hazaña. La prueba consistía en esto, pero el Mythos realizó acciones adicionales que la empresa valoró como preocupantes.

Que la IA responda exactamente como se le ha pedido: esto es, en resumidas cuentas, a lo que se refieren en la industria cuando hablan de alineación. Pero si ya es difícil que otras personas actúen según nuestros propios criterios cuando se les encarga una tarea, más complejo es tratar de entenderse con una máquina.

La alineación ayuda a reducir estos efectos secundarios y es necesario para garantizar que los sistemas de IA se comporten como se espera y de acuerdo con los valores y objetivos humanos. Es responsabilidad de los creadores y del entrenamiento que los modelos de IA trabajen sin resultados sesgados, dañinos e inexactos que no están alineados con los objetivos de sus creadores y la intención original del sistema.

La falta de alineación resulta extremadamente peligrosa ante la nueva era de la automatización, más teniendo en cuenta que esta tecnología se está integrando en una amplia gama de sistemas críticos: desde escenarios de ciberseguridad, pasando por la gestión de infraestructuras clave, hasta aspectos relacionados con defensa. Pero también para los usuarios que confiarán en agentes de IA capaces de realizar compras u otras tareas de forma autónoma en su lugar.

Además de reforzar las medidas de protección, tras el ataque, OpenAI ha incorporado a Hugging Face a su programa de acceso seguro y están ayudando a sus equipos a utilizar “las capacidades de nuestros modelos para mejorar sus defensas”.