أطلقت Tether AI TurboQuant مفتوح المصدر، وجرّدت التكامل في حزمة QVAC SDK 0.12.0 مع ضغط 5x لذاكرة KV Cache.

أطلقت شركة Tether AI مؤخراً مشروع TurboQuant مفتوح المصدر، ودمجته في مجموعة QVAC SDK ‏0.12.0. وبناءً على خوارزمية ضغط الذاكرة الخاصة بأبحاث Google Research، تقوم التقنية بضغط مخابئ مفاتيح وقيم نماذج اللغات الكبيرة (KV) حتى 5 مرات، ما يقلل استهلاك الذاكرة على الأجهزة المحلية وأجهزة الحافة مع الحفاظ على جودة المخرجات.
إخلاء المسؤولية: قد تكون المعلومات الواردة في هذه الصفحة مستمدة من مصادر خارجية وهي للمرجعية فقط. لا تمثل هذه المعلومات آراء أو وجهات نظر Gate ولا تشكل أي نصيحة مالية أو استثمارية أو قانونية. ينطوي تداول الأصول الافتراضية على مخاطر عالية. يرجى عدم الاعتماد حصرياً على المعلومات الواردة في هذه الصفحة عند اتخاذ القرارات. لمزيد من التفاصيل، يرجى الرجوع على إخلاء المسؤولية.
تعليق
0/400
لا توجد تعليقات