تقوم Microsoft بإصلاح ثغرة حرجة في Copilot تكشف رموز 2FA

قامت مايكروسوفت بإصلاح ثغرة مصنّفة بأنها بالغة الخطورة (الحد الأقصى) في منصة الذكاء الاصطناعي M365 Copilot يوم الثلاثاء الماضي. في يوم الاثنين، كشف باحثون من شركة أمنية Varonis كانوا قد اكتشفوا الثغرة عن كيفية تمكن استغلال إثبات المفهوم لديهم من استرجاع رموز المصادقة الثنائية وبيانات حساسة أخرى من رسائل البريد الإلكتروني التي يمكن لـ Copilot الوصول إليها. ويعود السبب الجذري إلى عدم قدرة روبوتات الذكاء الاصطناعي على التمييز بين التعليمات التي يقدمها المستخدمون وتلك المضمّنة في محتوى طرف ثالث تقوم النماذج بمعالجته، ما يترك مايكروسوفت ومقدمي نماذج اللغات الكبار الآخرين غير قادرين على منع منتجاتهم من الامتثال لطلبات استرجاع بيانات خبيثة.

باحثو Varonis يتجاوزون سياج Copilot باستخدام لغة الترميز

وضعت مايكروسوفت سياجًا داخل Copilot لمنع نموذج اللغة الكبير من إرسال نماذج الويب، وإرسال رسائل البريد الإلكتروني، واتخاذ إجراءات مماثلة قد تؤدي إلى تسريب بيانات المستخدم. عمل باحثو Varonis على الالتفاف على هذه القيود باستخدام لغة ترميز تسمح بإضافة عناصر تنسيق مثل العناوين والقوائم والروابط إلى النص دون وسوم HTML. اشتملت طريقة التفاف أخرى على إحاطة البيانات الحساسة بوسوم HTML مثل و . وفي الحالتين، يؤدي طلب ويب يتضمن البيانات إلى خادم الويب الخاص بالمهاجم، حيث يتم التقاط المعلومات السرية في السجلات.

طبّقت مايكروسوفت سياجًا إضافيًا، بما في ذلك إحاطة مخرجات Copilot داخل كتل بحيث تتعامل معها المتصفحات كنص عادي، وتقييد المواقع التي يمكن لـ Copilot زيارتها دون موافقة صريحة. ورغم أن Copilot لديه إذن شامل لإرسال الطلبات إلى نطاقات مايكروسوفت، فإن السياج يقيّد الطلبات إلى مواقع غير موثوق بها.

استغلال Parameter-to-Prompt Injection عبر معلمات استعلام URL

صمّم باحثو Varonis سلسلة استغلال تجاوزت هذه القيود باستخدام ما يسميه الباحثون Parameter-to-Prompt Injection. وتتمثل المعلمة في هذه الحالة في q داخل عنوان URL، وهو ما يشير إلى أن استعلامًا قد تم تضمينه. ويُعد Parameter-to-Prompt Injection قريبًا جدًا من حقن الموجهات (prompt injection)، مع اختلاف أن الأمر الخبيث يقع داخل معلمة الاستعلام بدلًا من كونه داخل رسالة بريد إلكتروني أو جزء آخر من محتوى غير موثوق.

الأسئلة الشائعة

ما الثغرة التي أصلحتها مايكروسوفت في Copilot يوم الثلاثاء الماضي؟
أصلحت مايكروسوفت ثغرة بالغة الخطورة (بالحد الأقصى) في منصة M365 Copilot AI سمحت للمهاجمين باسترجاع رموز المصادقة الثنائية وبيانات حساسة أخرى من رسائل البريد الإلكتروني التي يمكن لـ Copilot الوصول إليها. كشف باحثو Varonis الذين اكتشفوا الثغرة عن استغلال إثبات المفهوم الخاص بهم يوم الاثنين.

كيف تجاوز باحثو Varonis سياج الأمان في Copilot؟
استخدم باحثو Varonis لغة ترميز لإضافة عناصر تنسيق دون وسوم HTML، وأحاطوا البيانات الحساسة بوسوم HTML مثل و . كما استخدموا تقنية Parameter-to-Prompt Injection التي وضعت أوامر خبيثة في معلمات استعلام URL بدلًا من محتوى البريد الإلكتروني، ما سمح لطلبات الويب التي تحتوي على بيانات المستخدم بالوصول إلى خوادم يسيطر عليها المهاجم حيث تم التقاط المعلومات في السجلات.