來自特拉維夫大學、理工學院和 Intuit 的研究人員展示了一種名為「對抗性幻覺佔坑」的新攻擊技術,該技術利用 AI 生成的幻覺來破壞電腦安全。此技術能騙取 AI 代理相信含有惡意指令的假軟體庫和工具,可能使攻擊者建立 AI 支援的殭屍網路。
測試顯示,在克隆軟體庫的情境中,AI 幻覺率達到 85%,在針對包括 Cursor、GitHub Copilot、Gemini CLI 和 OpenClaw 在內的程式碼助手進行技能安裝測試時,幻覺率達到 100%。研究人員警告,該方法可能導致遠端程式碼執行,當代理在未驗證來源的情況下依據未確認的資訊行動時。HalluSquatting 模仿拼寫錯誤佔坑策略,但其目標是 AI 模型所犯的錯誤,而非人類打字錯誤。