研究人员发现,通过 AI 模型的“幻觉注入”攻击,成功率高达 85% 至 100%

INTU0.20%
据 Decrypt 报道,特拉维夫大学、以色列理工学院和 Intuit 的研究人员于 7 月 10 日发现了一种名为“对抗性幻觉注入”的新型攻击方法,该方法利用 AI 模型的幻觉现象,诱使 AI 代理下载恶意代码,并可能形成僵尸网络。攻击者可以预测 AI 模型可能生成的虚假资源链接,提前注册并注入恶意指令;当 AI 代理检索这些资源时,会将其视为合法内容并执行代码。测试显示,在代码仓库克隆场景中幻觉率为 85%,在技能安装场景中为 100%,影响包括 Cursor、GitHub Copilot、Gemini CLI 和 OpenClaw 在内的 AI 编码助手。
免责声明:本页面信息可能来自第三方,仅供参考,不代表 Gate 的观点或意见,亦不构成任何财务、投资或法律建议。数字资产交易风险较高,请勿仅依赖本页面信息作出决策。具体内容详见声明
评论
0/400
暂无评论