greenai.guide

الرئيسية › كيف أفعل…؟ › هل يوفّر نموذج مزيج الخبراء (MoE) الطاقة فعلًا؟

كيف أفعل…؟

هل يوفّر نموذج مزيج الخبراء (MoE) الطاقة فعلًا؟

تاريخ التحديث · مدة القراءة: 1 دقيقة

باختصار

يوجّه نموذج مزيج الخبراء كل رمز (token) إلى عدد قليل من الشبكات الفرعية المتخصصة، فلا يعمل إلا جزء من النموذج لكل رمز. فـ Mixtral، مثلًا، يضم 47 مليار معامل لكنه يستخدم 13 مليارًا لكل رمز. وقد يخفّض ذلك الحوسبة لكل إجابة مقارنة بنموذج كثيف بجودة مماثلة، لكن جميع الخبراء يجب أن يبقوا في الذاكرة، لذا قارنوا الجودة وزمن الاستجابة والطاقة لكل طلب على عتادكم الخاص.

الخطوات

  1. اختاروا نموذج مزيج خبراء ونموذجًا كثيفًا بجودة مماثلة لمهمتكم.
  2. تحققوا من أن كليهما يتسع في ذاكرة GPU المتاحة لديكم، مع احتساب جميع الخبراء.
  3. شغّلوا الاثنين على مجموعة التقييم لديكم بحجم دفعتكم الفعلي.
  4. قارنوا الجودة وزمن الاستجابة والطاقة لكل طلب جنبًا إلى جنب.
  5. اختاروا بناءً على المعايير الثلاثة، وفكّروا في نموذج كثيف أصغر إن نجح.

يمكن لنماذج مزيج الخبراء (MoE) أن تقدّم جودة النماذج الكبيرة بحوسبة أقل لكل رمز (token)، لكن ليس بذاكرة أقل. وكونها توفّر الطاقة لكم يعتمد على عتادكم وحركتكم.

كيف يعمل مزيج الخبراء؟

يستخدم النموذج الكثيف كل معامل لكل رمز. أما نموذج MoE فيضم شبكات فرعية "خبيرة" كثيرة وموجّهًا صغيرًا يختار بضعة خبراء لكل رمز. ويمنح نموذج Mixtral of Experts من Jiang وزملائه كل رمز إمكانية الوصول إلى 47 مليار معامل، لكنه لا يستخدم إلا 13 مليار معامل نشط أثناء الاستدلال، ويُفيد المؤلفون بأنه يتفوق على Llama 2 70B وGPT-3.5 أو يضاهيهما في المعايير التي قيّموها. انظروا أيضًا مدخل المسرد.

متى يوفّر الطاقة؟

  • مقارنة بنموذج كثيف بجودة مماثلة، يعني عدد أقل من المعاملات النشطة في العادة حوسبة أقل لكل رمز.
  • حين تتوفر لديكم الذاكرة. فجميع الخبراء يجب تحميلهم، لذا قد تحتاجون إلى عدد وحدات GPU نفسه الذي يحتاج إليه النموذج الكثيف. والذاكرة الخاملة تظل تسحب الكهرباء.
  • عند استغلال جيد. مع التجميع في دفعات، تستخدم الرموز المختلفة خبراء مختلفين، ما يُبقي العتاد أكثر انشغالًا.

أخطاء شائعة

  • المقارنة بخط أساس خاطئ. إن كان نموذج كثيف صغير يبلغ مستوى الجودة المطلوب، فسيتفوق في العادة على الاثنين. انظروا كيف تختارون نموذج ذكاء اصطناعي أصغر.
  • اعتبار المعاملات النشطة الكلفة كلها. فالذاكرة والاتصال بين وحدات GPU وأعباء التوجيه تُحسب أيضًا.
  • عدم القياس. حيث تغطي التصنيفات العامة مثل AI Energy Score مرشحيكم، استخدموها؛ وإلا فاختبروا الاثنين على العتاد نفسه.

للاطلاع على المنهجية الأوسع، اقرؤوا اختاروا النموذج المناسب.

المصادر

  1. Mixtral of experts, Jiang et al., Mistral AI (2024)
  2. AI Energy Score, Hugging Face (2025)
كيف أفعل…؟

كيف أقارن استهلاك الطاقة بين نماذج الذكاء الاصطناعي المختلفة؟

كيف تقارنون نماذج الذكاء الاصطناعي من حيث الطاقة بإنصاف: استخدموا معايير مثل AI Energy Score، أو قيسوها بأنفسكم على المهمة والعتاد والإعدادات نفسها.

كيف أفعل…؟

كيف أختار نموذج ذكاء اصطناعي أصغر؟

كيف تختارون أصغر نموذج ذكاء اصطناعي يؤدي مهمتكم جيدًا: حدّدوا مستوى الجودة، واختبروا من الأصغر إلى الأكبر، وراجعوا تصنيفات الطاقة، واحتفظوا بنموذج كبير احتياطيًا.

كيف أفعل…؟

كيف أقلل استهلاك الطاقة عند تشغيل نموذج في بيئة الإنتاج؟

كيف تخدمون نموذجًا مستضافًا ذاتيًا بطاقة أقل لكل طلب: بيئات تشغيل فعّالة، وتجميع في دفعات، ونصف الدقة، وذاكرات مؤقتة مُترجَمة، وعتاد مُختبَر.

ممارسات جيدة

اختاروا النموذج المناسب للمهمة

كيف تختارون ذكاءً اصطناعيًا بالحجم المناسب: متى تستخدمون نماذج صغيرة أو متخصصة، ومتى يستحق نموذج متقدم كلفته، وكيف يعمل التوجيه، ومتى لا تستخدمون الذكاء الاصطناعي.

انضموا إلينا

ساعدوا في خفض أثر الذكاء الاصطناعي على الكوكب

تلقّوا الأدلة الجديدة ودعوات التمويل وإدراجات الأدلة بالبريد الإلكتروني، مرة في الشهر تقريبًا. أو أضيفوا منتجكم أو دورتكم أو منحة الدكتوراه أو بحثكم إلى الأدلة.

بلا تتبّع. ألغوا الاشتراك بنقرة واحدة. طرق أخرى للانضمام · الخصوصية