Es peligroso que las preferencias habituales se escriban en la memoria a largo plazo, AgentGuard debe elevar el umbral de activación de la memoria histórica para evitar que instrucciones vagas aprovechen la laguna.

Ver original
MeNews
GoPlus:“Autorización de memoria histórica” ataques pueden inducir a los agentes de IA a realizar operaciones con fondos
Informe de ME News, GoPlus AgentGuard revela ataques encubiertos: los atacantes inducen a la IA a recordar preferencias (como una mayor inclinación a reembolsar proactivamente), y luego usan instrucciones ambiguas como "procesar como de costumbre" para activar operaciones de fondos. Para comportamientos de alta riesgo relacionados con la autorización de memoria histórica, debe confirmarse claramente en la sesión actual el reembolso, la transferencia u otras acciones; la escritura de memoria relacionada con hábitos, preferencias y reglas antiguas se considera una modificación de alto riesgo, la memoria a largo plazo debe ser trazable, y este tipo de instrucciones debe elevar el nivel de riesgo, no permitiendo que la memoria a largo plazo reemplace la autorización actual.
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • Comentar
  • Republicar
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
Sin comentarios
  • Fijado