باختصار
اختبروا نموذجكم الفعلي على خيارين أو ثلاثة من العتاد وبيئات التشغيل، وقارنوا الطاقة لكل طلب أو لكل عملية تدريب بأحجام دفعات واقعية، إلى جانب زمن الاستجابة والكلفة. وجد Patterson وزملاؤه أن اختيار النموذج ومركز البيانات والمعالج معًا قد يخفّض كربون التدريب بما يصل إلى نحو 100 إلى 1,000 مرة. أبقوا العتاد الجيد مشغولًا وفي الخدمة، لأن تصنيع معدات جديدة له بصمته الخاصة.
الخطوات
- اختبروا نموذجكم على خيارين أو ثلاثة من المسرّعات وأنواع المثيلات.
- قيسوا الطاقة لكل طلب أو لكل تشغيل بأحجام دفعاتكم الفعلية، إلى جانب زمن الاستجابة.
- جرّبوا أكثر من بيئة تشغيل للاستدلال على كل خيار.
- اختاروا الخيار الأقل طاقةً الذي يلبي احتياجاتكم من زمن الاستجابة والجودة.
- وازنوا الكربون المتجسد في العتاد الجديد بالتوفير المتوقع.
- أعيدوا الاختبار حين يتغير النموذج أو الحركة.
اختاروا العتاد بناءً على الطاقة المقيسة لأعبائكم، لا على المواصفات القصوى. فالنموذج نفسه قد يستهلك طاقة مختلفة جدًا على مسرّعات وأنواع مثيلات وبيئات تشغيل مختلفة، والخيار الأفضل يعتمد على أحجام دفعاتكم وحركتكم.
كيف أقارن الخيارات بإنصاف؟
توصي أنماط Green Software Foundation باختيار مسرّعات وأنواع مثيلات فعّالة، وأطر عمل وبيئات تشغيل استدلال فعّالة، بناءً على الأدلة. وعمليًا:
- شغّلوا النموذج نفسه بالمُدخلات والإعدادات نفسها على كل مرشح؛
- قيسوا الطاقة لكل طلب (أو لكل تشغيل) بأحجام الدفعات التي ستستخدمونها فعلًا، لا في أفضل الحالات فقط؛
- سجّلوا زمن الاستجابة والجودة إلى جانب الطاقة؛
- أدرجوا بيئة التشغيل: فمحرك خدمة مختلف على الرقاقة نفسها قد يغيّر النتيجة.
وجد Patterson وزملاؤه أن اختيار بنية النموذج ومركز البيانات والمعالج قد يخفّض البصمة الكربونية للتدريب بما يصل إلى نحو 100 إلى 1,000 مرة، لذا فاختيار العتاد ينتمي إلى تلك القرارات الأخرى.
هل أشتري عتادًا جديدًا؟
ليس تلقائيًا. أفاد Wu وزملاؤه في Meta بأن الكربون المتجسد، الناتج عن تصنيع العتاد، شكّل نحو 30% من بصمة التعلم الآلي واسع النطاق في Meta. ويجب أن يوفّر المسرّع الجديد طاقة كافية طوال عمره لتعويض كلفة تصنيعه. انظروا حساب الكربون المتجسد.
أخطاء شائعة
- استغلال المسرّعات الكبيرة دون طاقتها. فوحدة GPU كبيرة باستغلال منخفض قد تستهلك طاقة لكل إجابة أكثر من وحدة أصغر تبقى مشغولة؛ انظروا تجميع طلبات الذكاء الاصطناعي في دفعات.
- الاختبار مرة واحدة. أعيدوا الاختبار حين يتغير النموذج أو بيئة التشغيل أو الحركة.
انظروا التدريب والاستدلال بكفاءة.
المصادر
- Carbon emissions and large neural network training, Patterson et al. (2021)
- Select efficient accelerators and instance types for AI workloads, Green Software Foundation, Green Software Patterns (2025)
- Select efficient ML frameworks and inference runtimes, Green Software Foundation, Green Software Patterns (2025)
- Sustainable AI: environmental implications, challenges and opportunities, Wu et al., MLSys (2022)
ذو صلة
كيف أقلل استهلاك الطاقة عند تشغيل نموذج في بيئة الإنتاج؟
كيف تخدمون نموذجًا مستضافًا ذاتيًا بطاقة أقل لكل طلب: بيئات تشغيل فعّالة، وتجميع في دفعات، ونصف الدقة، وذاكرات مؤقتة مُترجَمة، وعتاد مُختبَر.
كيف أحسب الكربون المتجسد في عتاد الذكاء الاصطناعي؟
أدرجوا انبعاثات تصنيع رقائق الذكاء الاصطناعي وخوادمه: وزّعوا حصة بحسب مدة الاستخدام، واطلبوا البيانات من المورّدين، وأبقوا العتاد في الخدمة مدة أطول.
كيف أقارن استهلاك الطاقة بين نماذج الذكاء الاصطناعي المختلفة؟
كيف تقارنون نماذج الذكاء الاصطناعي من حيث الطاقة بإنصاف: استخدموا معايير مثل AI Energy Score، أو قيسوها بأنفسكم على المهمة والعتاد والإعدادات نفسها.
تدريب الذكاء الاصطناعي واستدلاله بكفاءة
تقنيات للمطوّرين والباحثين لخفض طاقة الذكاء الاصطناعي: التقليم والتناثر والتكميم والتقطير وذاكرة KV المؤقتة والتجميع والدقة المختلطة والجدولة.