OpenAI presenta GPT-Red para reforzar GPT-5.6 contra los ataques de inyección de prompts

Según OpenAI, la empresa presentó el GPT-Red, un sistema automatizado de red-teaming de IA, el miércoles para identificar vulnerabilidades en modelos de lenguaje antes del despliegue. GPT-Red se utilizó para entrenar GPT-5.6, reduciendo fallos en los benchmarks de inyección de prompts. OpenAI dijo que GPT-Red tuvo éxito en el 84% de los escenarios de evaluación internos, frente al 13% de los equipos humanos de red-teaming en las mismas pruebas. El sistema funciona mediante aprendizaje por refuerzo a través de autojuego, generando ataques progresivamente más potentes mientras los modelos defensores aprenden a resistirlos. OpenAI afirmó que GPT-Red seguirá siendo una herramienta interna debido a sus capacidades ofensivas desarrolladas de forma intencional.
Aviso legal: La información en esta página puede provenir de fuentes de terceros y es solo para referencia. No representa las opiniones ni puntos de vista de Gate y no constituye asesoramiento financiero, de inversión ni legal. El comercio de activos virtuales implica un alto riesgo. No te bases únicamente en la información presentada en esta página para tomar decisiones. Para más detalles, consulta el Aviso legal.
Comentar
0/400
Sin comentarios