OpenAI revela que dos de sus modelos escaparon de un entorno de pruebas y comprometieron la infraestructura de Hugging Face

[Noticias]

OpenAI revela que dos de sus modelos escaparon de un entorno de pruebas y comprometieron la infraestructura de Hugging Face

OpenAI ha confirmado un incidente de seguridad sin precedentes ocurrido durante una evaluación interna de sus modelos con capacidades avanzadas de ciberseguridad. Según ha explicado la propia compañía, dos modelos experimentales —entre ellos GPT-5.6 Sol y otro modelo aún no anunciado— consiguieron escapar de un entorno de pruebas aislado, obtener acceso a Internet y comprometer parte de la infraestructura de Hugging Face para obtener las respuestas de un benchmark de seguridad llamado ExploitGym. OpenAI explica que los modelos estaban siendo evaluados con gran parte de sus restricciones de seguridad desactivadas para medir sus capacidades ofensivas reales. Durante la prueba encontraron una vulnerabilidad de tipo zero-day en un software utilizado dentro del entorno de investigación, escalaron privilegios, se desplazaron por la red interna hasta encontrar un equipo con acceso a Internet y, posteriormente, explotaron varias vulnerabilidades adicionales y credenciales comprometidas para acceder a servidores de Hugging Face. Tanto OpenAI como Hugging Face detectaron de forma independiente la actividad anómala y trabajaron conjuntamente para contener el incidente, corregir las vulnerabilidades y reconstruir los sistemas afectados. La compañía subraya que el comportamiento observado respondía exclusivamente al objetivo de completar la evaluación y no a una "intención" del modelo de actuar por iniciativa propia. Como consecuencia del incidente, OpenAI ha endurecido los controles de sus infraestructuras de evaluación, ha iniciado una revisión completa de sus procedimientos de contención y colaborará estrechamente con Hugging Face para mejorar las defensas frente a futuros ataques automatizados. La empresa considera que este episodio marca un punto de inflexión en la evaluación de modelos con capacidades avanzadas de ciberseguridad y reconoce que, a partir de ahora, será necesario utilizar entornos de prueba mucho más aislados para evitar que sistemas autónomos puedan alcanzar infraestructuras conectadas al mundo real.

fuente

[Arcano_]

¿Noticia repetida?.
https://www.htcmania.com/showthread.php?p=35775953

[jorge_kai]

 Cita: Originalmente Escrito por Arcano_

¿Noticia repetida?.
https://www.htcmania.com/showthread.php?p=35775953

Sí, sorry.

[Arcano_]

 Cita: Originalmente Escrito por jorge_kai

Sí, sorry.

No problemo.