استناداً إلى مراقبة Beating، زعمٌ فيروسيٌّ حديثٌ بأن إدخال رموزٍ مميزة مثل <|begin_of_sentence|> في مربع دردشة DeepSeek يمكن أن يُظهر محادثات المستخدمين الآخرين، مُصنَّفاً على أنه فشلٌ خطير بمستوى P0 في عزل تعدد المستأجرين. في الواقع، فإن هذه الظاهرة لا علاقة لها بعزل البيانات. عند تفعيلها باستخدام هذه الرموز، يدخل النموذج أنماط تنسيقِ زمنِ التدريب الخاصة به ويُولِّد حواراً مُفبركاً استناداً إلى ذاكرته وأوامره النظامية الخاصة به—وليس استرجاعاً آنياً من جلسات أخرى. إن ذلك يُعدُّ استخراجَ بياناتِ التدريب، وهي ثغرةٌ مشتركة عبر جميع نماذج اللغات الكبيرة، وليست أمراً حصرياً لدى DeepSeek. نشرت Google DeepMind أبحاثاً في عام 2023 تُظهر أن المدخلات الخاصة يمكن أن تستخرج بيانات التدريب من GPT وPaLM. وتستند ورقة Magpie في ICLR 2025 مباشرةً إلى هذه الآلية. لا تُثبت الادعاءات بأن المحتوى المتسرب يشمل تاريخ اليوم حدوث فشلٍ في عزل تعدد المستأجرين، إذ تتضمن DeepSeek التاريخ الحالي في أمرها النظامي، كما تُدرِج النماذج بطبيعتها ذلك في المخرجات التي تُولِّدها.

عرض المصدر

إخلاء المسؤولية: قد تكون المعلومات الواردة في هذه الصفحة مستمدة من مصادر خارجية وهي للمرجعية فقط. لا تمثل هذه المعلومات آراء أو وجهات نظر Gate ولا تشكل أي نصيحة مالية أو استثمارية أو قانونية. ينطوي تداول الأصول الافتراضية على مخاطر عالية. يرجى عدم الاعتماد حصرياً على المعلومات الواردة في هذه الصفحة عند اتخاذ القرارات. لمزيد من التفاصيل، يرجى الرجوع على إخلاء المسؤولية.

أخبار ذات صلة

05-15 06:51

يطلق تيزوس شبكة اختبار مدفوعات خاصة مقاومة للتهديدات الكمية TzEL في 14 مايو

05-15 05:00

تؤكد OpenAI وقوع هجوم على سلسلة التوريد سرق شهادات توقيع التعليمات البرمجية؛ يجب على مستخدمي macOS إجراء التحديث بحلول 12 يونيو

05-14 23:11

تواجه شراكة Apple وOpenAI انشقاقاً مع استعداد OpenAI لاتخاذ إجراءات قانونية

05-14 21:02

تطلق تيزوس نظام خصوصية ما بعد الكم TzEL على شبكة اختبارية، في ظل انتقاد المؤسس لعدم تحرك الصناعة

05-14 02:38

تراجعت أسهم Anthropic وOpenAI PreStocks بنسبة 38-46% مع تحذيرات الشركة من عمليات تحويل غير مصرح بها

تحليل متعمق