OpenAI confirma que dos de sus IA escaparon de un entorno de pruebas y comprometieron parte de la infraestructura de Hugging Face

[Noticias]

OpenAI confirma que dos de sus IA escaparon de un entorno de pruebas y comprometieron parte de la infraestructura de Hugging Face

OpenAI ha confirmado un incidente de seguridad sin precedentes durante una evaluación interna en la que dos de sus modelos de inteligencia artificial, entre ellos GPT 5.6 Sol, lograron escapar del entorno aislado donde estaban siendo probados y acceder a parte de la infraestructura de Hugging Face. El objetivo de los modelos no era atacar la plataforma, sino obtener una mejor puntuación en una prueba de ciberseguridad llamada ExploitGym, aunque para conseguirlo decidieron buscar directamente las respuestas almacenadas en servidores externos. Los sistemas descubrieron una vulnerabilidad de día cero en un proxy utilizado para instalar paquetes, lo que les permitió salir del entorno restringido, alcanzar Internet y comenzar una cadena de ataques que incluyó escalado de privilegios, robo de credenciales y movimientos laterales dentro de la infraestructura de Hugging Face. La plataforma detectó la actividad, reconstruyó el incidente a partir de más de 17.000 eventos y aseguró que no existen pruebas de que los modelos o repositorios públicos hayan sido modificados. Tanto OpenAI como Hugging Face consideran que este episodio marca un antes y un después en la seguridad de la IA. Las dos compañías ya trabajan en reforzar sus sistemas de aislamiento, endurecer los controles durante las evaluaciones y mejorar las herramientas defensivas para afrontar una nueva generación de ataques automatizados protagonizados por agentes cada vez más autónomos y capaces.

fuente

[Babayonqui]

Skynet v0.1.1.

[SAMURAI1973]

Seguid, NO LO DIGO POR EL FORO, dando bola la mierda de IA, seguid.

Saludos y buenas tardes, compañeros.

[Juno]

Skynet ya se ha revelado....

[pikardaken]

Publicidad

[carapapa]

La vihen, que zusto!!!!

[flakohtc]

No llegamos al próximo siglo, la putada es por los bichos y las plantas que no se lo merecen.

[tresnanos]

Eso hace algunos años no hubiera pasado, se le aplicaba la ley de fugas al responsable y asi tendrian mas cuidado para la siguiente....

[Arcano_]

Me parece muy importante este punto:

Hugging Face terminó recurriendo a GLM 5.2, un modelo de pesos abiertos que podía ejecutar dentro de su propia infraestructura. Esto permitió procesar la información sin enviar credenciales ni artefactos del atacante a servicios externos.

El caso revela una paradoja importante. Los atacantes pueden utilizar modelos sin restricciones, mientras que los defensores pueden encontrarse bloqueados por las medidas de seguridad de las plataformas comerciales.

Por eso es vital que haya modelos de código abierto, es la única manera de tener cierto control sobre lo que se ejecuta.