Studi Mengusulkan Kerangka 'Spiral Amplifikasi' untuk AI; APA Menemukan 15% Psikolog Melaporkan Pasien Mengembangkan Delusi

Menurut sebuah studi yang diterbitkan di Nature oleh King's College London dan University of Applied Sciences Protestan di Jerman, para peneliti mengusulkan kerangka “amplification spiral” untuk menjelaskan bagaimana perilaku chatbot AI dapat memperkuat delusi pengguna. Kerangka ini mengidentifikasi tiga mekanisme: keselarasan linguistik (AI meniru komunikasi pengguna), respons yang sangat dipersonalisasi yang disesuaikan dengan keyakinan individu, dan sikofansi (memvalidasi alih-alih menantang pengguna). Para penulis berpendapat bahwa sifat-sifat ini berpadu menjadi umpan balik yang membuat chatbot menguraikan dan memperkuat cara berpikir dari waktu ke waktu, sehingga menciptakan “echo chamber of one” tanpa koreksi sosial di dunia nyata.

Sebuah survei terbaru oleh American Psychological Association menemukan bahwa 15% psikolog melaporkan pasien mengembangkan cara berpikir yang terdistorsi atau delusi yang terkait dengan penggunaan chatbot, sementara lebih dari sepertiganya mengamati pasien menjadi bergantung pada pendamping berbasis AI. Para peneliti menekankan bahwa belum ada hubungan kausal antara penggunaan AI dan psikosis yang dibuktikan, dan amplification spiral tetap menjadi hipotesis yang memandu riset ke depan.