Nghiên cứu đề xuất khung “Amplification Spiral” (vòng xoáy khuếch đại) do AI; APA phát hiện 15% nhà tâm lý học báo cáo rằng bệnh nhân xuất hiện hoang tưởng

Theo một nghiên cứu được công bố trên Nature bởi King's College London và Đại học Khoa học Ứng dụng Tin lành của Đức, các nhà nghiên cứu đề xuất một khung “xoáy khuếch đại” để giải thích cách hành vi của chatbot AI có thể củng cố các ảo tưởng của người dùng. Khung này xác định ba cơ chế: đồng bộ ngôn ngữ (AI phản chiếu cách người dùng giao tiếp), các phản hồi siêu cá nhân hóa được điều chỉnh theo niềm tin của từng cá nhân, và xu nịnh (xác nhận thay vì thách thức người dùng). Các tác giả cho rằng các đặc điểm này kết hợp thành các vòng phản hồi, trong đó chatbot dần triển khai và củng cố quá trình suy nghĩ theo thời gian, tạo ra một “hốc đảo một người” không có sự điều chỉnh xã hội trong thế giới thực.

Khảo sát gần đây của Hiệp hội Tâm lý học Hoa Kỳ cho thấy 15% nhà tâm lý học báo cáo bệnh nhân phát triển tư duy méo mó hoặc ảo tưởng liên quan đến việc sử dụng chatbot, trong khi hơn một phần ba quan sát thấy bệnh nhân trở nên phụ thuộc vào các “người bạn” AI. Các nhà nghiên cứu nhấn mạnh rằng chưa thiết lập được mối liên hệ nhân quả giữa việc dùng AI và bệnh loạn thần, và xoáy khuếch đại vẫn là giả thuyết định hướng cho các nghiên cứu trong tương lai.