Investigadores descubren un ataque de "inyección de alucinaciones" mediante modelos de IA con una tasa de éxito del 85 % al 100 %

INTU0,15%
Según Decrypt, investigadores de la Universidad de Tel Aviv, del Instituto de Tecnología de Israel Technion y de Intuit descubrieron el 10 de julio un nuevo método de ataque llamado "inyección de alucinaciones adversariales" que explota las alucinaciones de los modelos de IA para engañar a los agentes de IA y que descarguen código malicioso y potencialmente formen botnets. Los atacantes predicen enlaces falsos a recursos que los modelos de IA podrían generar, los registran con anticipación e inyectan instrucciones maliciosas; cuando los agentes de IA recuperan estos recursos, los tratan como contenido legítimo y ejecutan el código. Las pruebas mostraron tasas de alucinación del 85 % en escenarios de clonación de repositorios de código y del 100 % en escenarios de instalación de habilidades, afectando a asistentes de codificación de IA como Cursor, GitHub Copilot, Gemini CLI y OpenClaw.
Aviso legal: La información en esta página puede provenir de fuentes de terceros y es solo para referencia. No representa las opiniones ni puntos de vista de Gate y no constituye asesoramiento financiero, de inversión ni legal. El comercio de activos virtuales implica un alto riesgo. No te bases únicamente en la información presentada en esta página para tomar decisiones. Para más detalles, consulta el Aviso legal.
Comentar
0/400
Sin comentarios