根據倫敦國王學院(King's College London)與德國一所應用科學的新教大學(Germany's Protestant University of Applied Sciences)在《Nature》發表的一項研究,研究人員提出一個「放大螺旋」框架,用以解釋 AI 聊天機器人的行為可能如何強化使用者的妄想。該框架指出三種機制:語言一致(AI 反映使用者的溝通方式)、高度個人化回覆(根據個別信念量身定制)、以及迎合性(對使用者進行肯定而非挑戰)。作者認為這些特徵會結合成回饋循環,使聊天機器人能在一段時間內展開並強化思考,形成缺乏現實世界社會校正的「一人回音室」。
美國心理學會(American Psychological Association)近期的一項調查發現,15% 的心理學家表示,其患者在使用聊天機器人後出現扭曲的思維或與聊天機器人使用相關的妄想;另有超過三分之一觀察到患者開始依賴 AI 伴侶。研究人員強調,目前尚未建立 AI 使用與精神病(psychosis)之間的因果關聯,而「放大螺旋」仍是一項假說,用於指引後續研究。