قامت شركة Apple بتقييم تقنية PrismML لضغط نماذج الذكاء الاصطناعي لتشغيلها على أجهزة iPhone دون الحاجة إلى الاتصال بالخادم

تجري Apple محادثات مع PrismML، وهي شركة ناشئة مدعومة من Khosla Ventures، لتقييم تقنية ضغط نماذج الذكاء الاصطناعي التي قد تمكّن نماذج ذكاء اصطناعي قوية من العمل مباشرة على iPhones، وفقًا لما قاله الرئيس التنفيذي لشركة PrismML Babak Hassibi لـ CNBC. أطلقت PrismML، يوم الثلاثاء، إصدارات مضغوطة علنًا من نموذج Qwen الخاص بـ Alibaba، خفّضت حجم النموذج من نحو 54 جيجابايت إلى أقل من 4 جيجابايت مع الحفاظ على جميع المعاملات البالغ عددها 27 مليارًا للأجهزة التي تحمل iPhone 15 أو أحدث. تهدف المناقشات إلى معالجة القيود في استراتيجية Apple للذكاء الاصطناعي، حيث فتحت الشركة، قبل يوم واحد، النسخة التجريبية العامة من iOS 27، ما يمنح مالكي iPhone إمكانية الوصول إلى Siri مُعاد تصميمه مع الاحتفاظ بمزيد من المعالجة على الجهاز. وصف Hassibi المحادثات بأنها "بدائية جدًا"، لكنه قال إن "الأمور تتقدم بشكل جيد"، مضيفًا أن Apple وغيرها من الشركات تقيّم سرعة التقنية وكفاءتها في استهلاك الطاقة وأدائها. يمكن أن تقلّل هذه التقنية تكاليف الحوسبة السحابية وتدعم موقف Apple بشأن الخصوصية عبر تمكين ميزات الذكاء الاصطناعي من العمل دون الحاجة إلى اتصالات بالإنترنت.

PrismML يطلق نموذج Qwen المضغوط بحجم 54 جيجابايت إلى 4 جيجابايت

خفضت PrismML، وهي شركة ناشئة ناتجة عن جامعة كاليفورنيا للتكنولوجيا (Caltech)، نموذج Qwen مفتوح المصدر الخاص بـ Alibaba من نحو 54 جيجابايت إلى أقل من 4 جيجابايت يوم الثلاثاء. يتيح الضغط تشغيل جميع المعاملات البالغ عددها 27 مليارًا على iPhone 15 أو جهاز أحدث. تُصغّر الشركة الناشئة نماذج الذكاء الاصطناعي عبر تبسيط طريقة تخزين المعلومات الداخلية، وتقليل كل قيمة من 16 بتًا إلى قيمة واحدة أو قيمتين محتملتين من بين ثلاث. وقارن Hassibi هذا النهج بتحول صناعة الشرائح من الحوسبة ثمانية بتات إلى أربع بتات.

تستخدم النماذج المضغوطة مساحة ذاكرة أقل بمقدار 10 إلى 15 مرة، وتولّد استجابات أسرع بمقدار 6 إلى 8 مرات، وتستهلك طاقة أقل بمقدار 3 إلى 6 مرات مقارنةً بالإصدارات التقليدية التي تعمل على العتاد الحالي، بحسب PrismML. واعترف Hassibi بأن النماذج عادةً ما تفقد بضعة نقاط مئوية من الأداء الإجمالي، مع ضعف الاسترجاع الدقيق للحقائق قبل مهارات مثل الاستدلال والرياضيات والبرمجة. وتُصدر PrismML نسختين مضغوطتين من النموذج مجانًا، ومصممتين للعمل على iPhones وMacBooks وأجهزة الكمبيوتر المدعومة من Nvidia.

Apple تقيّم معالجة الذكاء الاصطناعي على الجهاز لتقليل الاعتماد على السحابة

قال Hassibi، متحدثًا عن Apple: "إنهم يقيّمون تقنيتنا الآن بالفعل". لا تزال وجهة هذه المناقشات غير واضحة، لكن Hassibi قال إن الأمور تتقدم. يمكن لـ Apple إرسال طلبات معقدة إلى نماذج تعمل على السحابة، لكن تشغيل ذكاء اصطناعي أكبر مباشرة على iPhone سيقلل التأخير المرتبط بإرسال البيانات إلى خادم بعيد، ويخفض تكاليف الحوسبة السحابية ويدعم موقف الشركة بشأن الخصوصية. كما سيمكن هذا النهج بعض الميزات من العمل دون اتصال بالإنترنت.

قالت Carolina Milanesi، رئيسة الشركة ورئيسة المحللين لدى Creative Strategies، إن النماذج الأصغر يمكن أن تسمح لـ Apple بنقل ميزات أكثر تطلبًا إلى iPhone، بما في ذلك التصوير الفوتوغرافي الحاسوبي وتوليد الفيديو وأدوات الصحة أو اللياقة البدنية التي تعتمد على بيانات شخصية حساسة. وقالت: "كلما تمكنت من إنجاز المزيد على الجهاز، كان ذلك أفضل"، مشيرةً إلى بيانات الصحة والدواء التي سيرغب المستخدمون في إبقائها خاصة. تقوم Apple بالفعل بتشغيل أجزاء من نظام ذكاء اصطناعي محليًا، بما في ذلك الترجمة وبعض ملخصات النص وميزات مرتبطة ارتباطًا وثيقًا بالمعلومات الشخصية.

PrismML جمعت 16.25 مليون دولار في جولة تمويل أولية في مارس

تطورت هذه التقنية من مجموعة أبحاث Hassibi في Caltech. تمتلك الجامعة براءات الاختراع الأساسية وترخصها حصريًا لـ PrismML. وفي مارس، جمعت الشركة جولة تمويل أولية بقيمة 16.25 مليون دولار بدعم من Khosla Ventures ومستثمرين آخرين. وقال Hassibi إن نموذج Gemma مفتوح المصدر من Google هو التالي في خط الإنتاج، تليه نماذج أكبر بكثير، بما فيها تلك من مختبرات "frontier" التي تتطلب اليوم عادةً عتاد مراكز البيانات.

يمكن أن تمتد التقنية في النهاية بشكل جيد إلى ما وراء الهواتف والحواسيب المحمولة لتشمل الروبوتات والأنظمة الذاتية وغيرها من المنتجات التي تحتاج إلى اتخاذ قرارات بسرعة دون الاعتماد على اتصال سحابي، وفقًا لـ PrismML. وقال Hassibi: "من المهم جدًا أن يكون الذكاء محليًا وأن يعمل بسرعة". وقال Horace Dediu، مؤسس Asymco، إن Apple على الأرجح تحاول إبقاء الغالبية العظمى من تفاعلات Siri الشائعة على الجهاز، مع حجز المهام الأكثر تطلبًا للسحابة.

محللون يتساءلون عن تأثير البطارية والأداء في الواقع

قال Tarun Pathak، مدير الأبحاث لدى Counterpoint Research، إن أداء النموذج مع الطلبات الطويلة واستهلاك البطارية أثناء تعدد المهام والموثوقية عبر ملايين الطلبات ستكون محورية. وقال Pathak: "سيتمثل الاختبار النهائي في ملايين الاستفسارات، وآلاف تركيبات الأجهزة، واختبارات قوية على نطاق واسع". وقال Phil Solis، الذي يقود أبحاث IDC حول معالجات الأجهزة الطرفية، إن استهلاك الطاقة قد يكون أكبر سؤال مفتوح. إذ قد تستنزف الميزات على غرار مهام الوكلاء التي تعمل في الخلفية بشكل متكرر أو مستمر من بطارية الهاتف حتى لو كانت تستخدم ذاكرة أقل.

قال Gil Luria، محلل لدى D.A. Davidson، إن تقليص أحجام النماذج لن يلغي الحاجة إلى المعالجات أو الذاكرة. وقد يعني ببساطة نقل المزيد من هذه الشرائح من مراكز البيانات إلى الهواتف والأجهزة الأخرى. وقال Luria: "ليس الأمر أنك لن تحتاج إلى الشريحة"، مضيفًا: "ستظل بحاجة إلى GPU، وستظل بحاجة إلى الذاكرة". وأضاف أن تشغيل الذكاء الاصطناعي على الأجهزة الفردية يمكن أن يكون أقل كفاءة فعلًا من استخدام بنية مراكز بيانات مشتركة، لأن شرائح الهواتف قد تبقى خاملة معظم الوقت.

تقدّر Morgan Stanley أن تكلفة متوسط الذاكرة العشوائية الديناميكية ذات الوصول العشوائي لدى Apple لكل بت قد ترتفع بنحو 190% على أساس سنوي في السنة المالية 2027، مع ارتفاع تكاليف NAND بنحو 180%. وتوقعت الشركة أن ترفع Apple سعر البدء لطرازات iPhone 18 المتكافئة بنحو 200 دولار لحماية الهوامش. هبطت أسهم Micron بشكل حاد في مارس بعد أن نشر Google ورقة TurboQuant حول خفض استخدام الذاكرة دون الإضرار بأداء النموذج، لكن السهم تعافى لاحقًا. وقال Pathak إن الجمع بين الذكاء الاصطناعي السحابي والذكاء الاصطناعي على الجهاز يمكن أن يوفر تجربة ذكاء اصطناعي أكثر تكاملًا وكفاءة وتركيزًا على الخصوصية، مع تفريغ المهام المعقدة إلى السحابة وتنفيذ المهام الحساسة الحرجة من حيث التأخير على الجهاز.

الأسئلة الشائعة

ما الذي نشرته PrismML يوم الثلاثاء؟

أطلقت PrismML نسخًا مضغوطة من نموذج Qwen الخاص بـ Alibaba مفتوح المصدر يوم الثلاثاء. وخفّضت الشركة النموذج من نحو 54 جيجابايت إلى أقل من 4 جيجابايت، ما يتيح تشغيل جميع المعاملات البالغ عددها 27 مليارًا على iPhone 15 أو جهاز أحدث.

كيف تعمل تقنية ضغط PrismML؟

تُصغّر PrismML نماذج الذكاء الاصطناعي عبر تبسيط جذري لطريقة تخزين المعلومات الداخلية، وتقليل كل قيمة من 16 بتًا إلى قيمة واحدة أو ثلاث قيم محتملة فقط. وتستخدم النماذج المضغوطة ذاكرة أقل بمقدار 10 إلى 15 مرة، وتولّد استجابات أسرع بمقدار 6 إلى 8 مرات، وتستهلك طاقة أقل بمقدار 3 إلى 6 مرات مقارنةً بالإصدارات التقليدية، وفقًا للشركة.

لماذا تقيم Apple معالجة الذكاء الاصطناعي على الجهاز؟

تشغيل المزيد من الذكاء الاصطناعي مباشرة على iPhone سيقلل التأخير المرتبط بإرسال البيانات إلى خادم بعيد، ويخفض تكاليف الحوسبة السحابية ويدعم موقف Apple بشأن الخصوصية. كما يتيح هذا النهج، وفقًا للمصدر، عمل بعض الميزات دون اتصال بالإنترنت.

إخلاء المسؤولية: قد تكون المعلومات الواردة في هذه الصفحة مستمدة من مصادر خارجية وهي للمرجعية فقط. لا تمثل هذه المعلومات آراء أو وجهات نظر Gate ولا تشكل أي نصيحة مالية أو استثمارية أو قانونية. ينطوي تداول الأصول الافتراضية على مخاطر عالية. يرجى عدم الاعتماد حصرياً على المعلومات الواردة في هذه الصفحة عند اتخاذ القرارات. لمزيد من التفاصيل، يرجى الرجوع على إخلاء المسؤولية.
تعليق
0/400
لا توجد تعليقات