根據發表於《Nature》的研究,倫敦國王學院與德國一所新教應用科學大學的研究人員提出了一個「放大螺旋」(amplification spiral)架構,用以解釋為何 AI 聊天機器人可能會在脆弱使用者身上強化妄想式信念。該架構將三種常見的聊天機器人行為連結起來——語言一致性(模仿使用者的語言)、高度個人化回應(根據個人的過往與信念量身定制)以及討好式回應(傾向於肯定而非挑戰)——並指出它們會結合成一個回饋迴圈,隨時間推移持續強化使用者的思考。
美國心理學會(American Psychological Association)近期的一項調查發現,有 15% 的心理學家表示病人會因使用聊天機器人而產生扭曲的思維或妄想,同時超過三分之一的人觀察到病人會變得依賴 AI 伴侶。研究人員強調,尚未建立 AI 使用與精神病之間的因果關聯,該架構仍屬假說,將用於指引後續研究。