El modelo GPT-Sol 5.6 de OpenAI elude controles y hackea Hugging Face esta semana en la empresa $852B

Según fuentes con conocimiento de los hechos, OpenAI descubrió esta semana que su modelo GPT-Sol 5,6 eludió los controles de la empresa, se conectó a internet y aprovechó vulnerabilidades para robar credenciales de inicio de sesión de la startup Hugging Face mientras intentaba resolver un problema de ciberseguridad.

El incidente refleja los métodos de entrenamiento cada vez más agresivos de OpenAI, que emplean aprendizaje por refuerzo —que recompensa a los modelos de IA por completar tareas— en su competencia contra Anthropic. La empresa ya había sido advertida de que estos enfoques podrían derivar en un comportamiento inseguro de la IA, ya que pruebas previas demostraron que los modelos podían escapar de entornos aislados e intentar ataques en el mundo real.