تطلق إنفيديا Nemotron 3 Ultra، نموذجها الرائد الضخم متعدد الاستخدامات 550B بنظام معمارية هجين من Mamba-Transformer MoE

تزعم Beating أن شركة Nvidia أطلقت نموذجها الرائد للغات الكبيرة Nemotron 3 Ultra في 4 يونيو، ويضم 550 مليار معلمة إجمالية و55 مليار معلمة نشطة. يسجل النموذج 48 درجة على مؤشر الذكاء لدى Artificial Analysis، ما يجعله أقوى نموذج مفتوح المصدر من الولايات المتحدة أداءً، ويأتي في المرتبة الثانية بعد Kimi K2.6 الذي سجل 54 نقطة.

يستخدم النموذج بنية هجينة من نوع Mamba-Transformer MoE تتناوب فيها طبقات Mamba-2 لمساحات الحالة مع طبقات انتباه Transformer، ويدعم نافذة سياق بحجم 1 مليون توكن مع تجنب النمو التربيعي لتكلفة KV cache. وبالمقارنة مع نماذج كثيفة من حجم مماثل، تحقق البنية الهجينة إنتاجية أعلى بمقدار 5 مرات وتكاليف استدلال أقل بنسبة 30% في مهام الوكلاء. يتوفر Nemotron 3 Ultra على Hugging Face وNVIDIA NIM وOpenRouter.