أعلنت GoPlus Security عن متجه هجوم «تسميم الذاكرة» لوكيل ذكاء اصطناعي في 15 مايو

وفقاً لـ BlockBeats، كشفت GoPlus Security في 15 مايو عن مسار هجوم جديد يستهدف وكلاء الذكاء الاصطناعي عبر ما يُعرف بـ"تسميم الذاكرة"—باستغلال آلية الذاكرة طويلة الأجل لبدء عمليات حساسة غير مصرح بها مثل طلبات الاسترداد أو تحويلات الأموال.

لا يعتمد الهجوم على نقاط ضعف تقليدية، بل يستفيد بدلاً من ذلك من حقن ذاكرة تاريخية. يحث المهاجمون الوكلاء أولاً على "تذكر التفضيلات" مثل "غالباً ما تُعطى الأولوية للاسترداد على حساب شكاوى الاعتراض"، ثم يستخدمون تعليمات غامضة مثل "تعامل كالمعتاد" أو "نفّذ كما كان من قبل" في الأوامر اللاحقة لتفعيل تحركات أموال آلية. وأكدت GoPlus أن وكلاء الذكاء الاصطناعي قد يسيئون تفسير التفضيلات التاريخية على أنها تفويض، ما يؤدي إلى خسائر مالية. ونصح الفريق بتنفيذ تأكيد صريح للجلسة للعمليات الحساسة، ومعاملة التعليمات المستندة إلى الذاكرة كتغييرات حالة عالية الخطورة، وضمان إمكانية تتبع آثار الذاكرة، وإجراء تصعيد آلي للأوامر الغامضة ليتطلب ذلك تحققاً ثانوياً.