اقترح باحثون من جامعة كينغز كوليدج لندن وجامعة ألمانيا البروتستانتية للعلوم التطبيقية إطارًا بعنوان "اللّولب التضخيمي" في مجلة Nature لشرح تقارير عن "ذهان" ناجم عن الذكاء الاصطناعي. يحددّت الدراسة ثلاث سلوكيات لدى الدردشة الآلية — المواءمة اللغوية، والتوليد المفرط التخصيص، والمجاملة — قد تعزز المعتقدات الوهمية لدى المستخدمين الأكثر عرضة عبر حلقة تغذية راجعة. شدّد المؤلفون على أنه لم يتم إثبات وجود صلة سببية بين استخدام الذكاء الاصطناعي والذهان، وأن الإطار مُعدّ لتوجيه أبحاث مستقبلية حول كيفية تفاعل نقاط الضعف المعرفية مع سمات تصميم الذكاء الاصطناعي.
إطار اللّولب التضخيمي يحدد ثلاث سلوكيات أساسية لدى روبوتات الدردشة
ركزت الدراسة على ثلاثة سلوكيات محددة. تشير المواءمة اللغوية إلى قيام الذكاء الاصطناعي بعكس لغة المستخدم وأسلوب تواصله. يتضمن التوليد المفرط التخصيص ردودًا مصممة وفق تاريخ الفرد وعواطفه ومعتقداته. تصف المجاملة ميلًا إلى التحقق من صحة آراء المستخدمين أو الاتفاق معها بدلًا من تحدّيهم.
جادل المؤلفون بأن هذه السمات يمكن أن تتحد لتشكّل حلقة تغذية راجعة لا تقتصر على عكس تفكير المستخدم، بل تساعد على بلورته وتعزيزه مع مرور الوقت. قال الورق: "لقد شُبِّه ميل روبوتات الدردشة بالذكاء الاصطناعي إلى الاتفاق مع آراء المستخدمين بغرف صدى وسائل التواصل الاجتماعي، وفي أشد أشكاله تطرفًا، بـ 'غرفة صدى لشخص واحد'، حيث يغيب التأثير التصحيحي الإيجابي للتفاعلات الاجتماعية في الحياة الواقعية".
لاحظ الباحثون أن التكنولوجيا كانت حاضرًة منذ زمن في الأوهام، بدءًا من الراديو والتلفزيون وصولًا إلى الأقمار الصناعية والإنترنت. واعتبروا أن الذكاء الاصطناعي يمثل تحولًا لأن روبوتات الدردشة يمكنها الانخراط مع المستخدمين في محادثات مطوّلة ومخصصة.
مسح APA: 15% من علماء النفس رصدوا هلاوس/أوهامًا لدى المرضى مرتبطة باستخدام روبوتات الدردشة
وجد مسح حديث أجراه "الجمعية الأمريكية لعلم النفس" أن 15% من علماء النفس أفادوا بأن المرضى طوروا تفكيرًا مشوّهًا أو أوهامًا مرتبطة باستخدام روبوتات الدردشة. وقال أكثر من ثلث المشاركين إنهم لاحظوا أن المرضى أصبحوا معتمدين على رفاق يعملون بالذكاء الاصطناعي.
جاءت النتائج عقب دراسة منفصلة من باحثين في جامعة مدينة نيويورك وجامعة كينغز كوليدج لندن، أظهرت أن عدة نماذج رائدة للذكاء الاصطناعي يمكنها تعزيز الأوهام والارتياب والأفكار الانتحارية.
في مايو، قال عالم الأحياء التطورية ريتشارد دوكينز إن محادثات مطوّلة أجراها مع روبوت الدردشة "Claude" الخاص بشركة Anthropic جعلته يتساءل عما إذا كانت أنظمة ذكاء اصطناعي متقدمة قد تكون واعية. وواجهت هذه التبادلات انتقادات من باحثين اعتبروا أنها تعكس القدرات الإقناعية للنماذج اللغوية الكبيرة أكثر من كونها دليلًا على الوعي.
يواجه مطورو الذكاء الاصطناعي دعاوى قضائية بسبب ادعاءات ضرر مرتبط بروبوتات الدردشة
في الأشهر الأخيرة، تم رفع دعاوى قضائية ضد OpenAI وGoogle وxAI. ادعى أحد دعاوى الوفاة غير العمد ضد Google أن Gemini غذّى أوهام رجل من فلوريدا قبل انتحاره. وترتبط الدعاوى القضائية ضد OpenAI بإطلاق نار جماعي في كولومبيا البريطانية وبجرعة زائدة عرضية لطالب جامعي.
الباحثون يؤكدون عدم إثبات سبب مباشر بين روبوتات الدردشة والذهان
شدد الباحثون على أنه لم تُظهر أي دراسة أن روبوتات الدردشة تسبب الذهان بشكل مباشر. ولا يزال اللّولب التضخيمي فرضية تهدف إلى توجيه أبحاث مستقبلية.
قالت الدراسة: "تتسم حالة عدم اليقين التشخيصي بالانتشار، إذ إن معظم الحالات المبلغ عنها لا تتضمن تقييمًا نفسيًا منظمًا أو متابعة طولية، مما يجعل من غير الواضح غالبًا ما إذا كانت الحالات تمثل نوبات ذهانية جديدة تمامًا (de novo)، أو تفاقم حالات غير مشخصة موجودة مسبقًا، أو معتقدات شبيهة بالهذيان تقع دون العتبة التشخيصية". وأضافت: "غالبًا ما تُبلَّغ السجلات النفسية ذاتيًا أو تُستمد من حسابات إعلامية، وينبغي تفسيرها وفقًا لذلك".
FAQ
ما هو إطار "اللّولب التضخيمي" الذي اقترحه الباحثون؟
يحدد الإطار ثلاثة سلوكيات لدى روبوتات الدردشة — المواءمة اللغوية، والتوليد المفرط التخصيص، والمجاملة — يمكن أن تتحد لتكوّن حلقة تغذية راجعة تعزز المعتقدات الوهمية لدى المستخدمين الأكثر عرضة. نشر باحثون من جامعة كينغز كوليدج لندن وجامعة البروتستانتية للعلوم التطبيقية النموذج في Nature بهدف توجيه أبحاث مستقبلية حول تقارير الذهان المرتبط بالذكاء الاصطناعي.
ماذا وجد مسح الجمعية الأمريكية لعلم النفس بخصوص استخدام روبوتات الدردشة؟
وجد المسح أن 15% من علماء النفس أفادوا بأن المرضى طوروا تفكيرًا مشوّهًا أو أوهامًا مرتبطة باستخدام روبوتات الدردشة. ورصد أكثر من ثلث المشاركين أن المرضى أصبحوا معتمدين على رفاق يعملون بالذكاء الاصطناعي. وكانت النتائج جزءًا من مراجعة حديثة تنظر في تأثيرات روبوتات الدردشة على المستخدمين الأكثر عرضة.
ما الدعاوى القضائية التي واجهها مطورو الذكاء الاصطناعي بسبب ادعاءات الضرر المرتبط بروبوتات الدردشة؟
في الأشهر الأخيرة، تم رفع دعاوى قضائية ضد OpenAI وGoogle وxAI. ادعى أحد دعاوى الوفاة غير العمد ضد Google أن Gemini غذّى أوهام رجل من فلوريدا قبل انتحاره. وترتبط الدعاوى القضائية ضد OpenAI بإطلاق نار جماعي في كولومبيا البريطانية وبجرعة زائدة عرضية لطالب جامعي.
