OpenAI 的 GPT-Red 模型以 84% 的成功率攻擊 GPT-5.1,將對抗性漏洞降低至 0.05%

根據 Beating 的監測,OpenAI 已揭露 GPT-Red:一款自動化紅隊模型,旨在辨識並利用其 AI 系統中的安全漏洞。GPT-Red 透過自我對弈進行提示注入攻擊的學習,並將研究結果回饋至訓練 GPT-5.6。

在全新且先前未見的情境中,GPT-Red 對 GPT-5.1 的攻擊成功率達到 84%,而人類紅隊僅為 13%。經過對抗式訓練後,GPT-5.6 Sol 將直接提示注入攻擊的成功率降至 0.05%。GPT-Red 仍僅供內部使用。

免責聲明:本頁面資訊可能來自第三方來源,僅供參考,不代表 Gate 的立場或觀點,亦不構成任何財務、投資或法律建議。虛擬資產交易具有高風險,請勿僅依賴本頁資訊作出決策。詳情請參閱 免責聲明
回覆
0/400
暫無回覆