greenai.guide

الرئيسية › كيف أفعل…؟ › كيف أقلل استهلاك الطاقة عند تشغيل نموذج في بيئة الإنتاج؟

كيف أفعل…؟

كيف أقلل استهلاك الطاقة عند تشغيل نموذج في بيئة الإنتاج؟

تاريخ التحديث · مدة القراءة: 1 دقيقة

باختصار

قدّموا أصغر نموذج يبلغ مستوى الجودة المطلوب، على بيئة تشغيل مصمَّمة للاستدلال، مع تفعيل التجميع في دفعات، وبأوزان بنصف الدقة أو مكمّمة، ومع تفعيل مسارات الانتباه والذاكرة المؤقتة المحسّنة في المكتبة. ثم اختبروا بيئتي تشغيل أو ثلاثًا وخيارات عتاد بحركتكم الفعلية، واختاروا بناءً على الطاقة لكل طلب إلى جانب زمن الاستجابة.

الخطوات

  1. تأكدوا من أن النموذج هو الأصغر الذي يبلغ مستوى الجودة المطلوب.
  2. قدّموه بمحرك استدلال يدعم التجميع المستمر.
  3. حمّلوا الأوزان بنصف الدقة أو بصيغة تكميم مُختبَرة.
  4. فعّلوا الانتباه الفعّال وذاكرة مؤقتة ثابتة للمفاتيح والقيم حيث تدعمها مكتبتكم.
  5. اختبروا بيئتي تشغيل أو ثلاثًا وأنواعًا من GPU بأحجام دفعاتكم الفعلية.
  6. قلّصوا الموارد أو أوقفوها تمامًا حين تكون الحركة منخفضة.

تُنفق معظم طاقة النموذج طوال عمره على خدمته، لذا فإعدادات الخدمة مهمة. ونادرًا ما تكون الإعدادات الافتراضية الخيار الأكفأ، والمسارات المحسّنة تحتاج في العادة إلى تفعيل.

ما الذي يُحدث الفرق الأكبر؟

  1. التجميع في دفعات. المسرّع الذي يخدم طلبًا واحدًا في كل مرة يكون مستغَلًّا دون طاقته لكنه يظل يسحب الكهرباء. أفاد Kwon وزملاؤه بأن vLLM، بفضل إدارة ذاكرة التخزين المؤقت للمفاتيح والقيم على هيئة صفحات، حقق إنتاجية تبلغ 2 إلى 4 أضعاف الأنظمة السابقة عند زمن الاستجابة نفسه. انظروا كيف تجمّعون طلبات الذكاء الاصطناعي في دفعات.
  2. الدقة العددية. يحتاج نموذج بنصف الدقة أو نموذج مكمّم مُختبَر إلى ذاكرة أقل، وكثيرًا ما يحتاج إلى وحدات GPU أقل.
  3. مسارات الشيفرة المحسّنة. توثّق Hugging Face تطبيقات انتباه فعّالة وذاكرة مؤقتة ثابتة للمفاتيح والقيم مقترنة بـ torch.compile، وتقول إنها قد تحقق تسريعًا يصل إلى 4 أضعاف.
  4. بيئة تشغيل وعتاد مختاران بناءً على الأدلة. توصي Green Software Foundation باختيار أطر عمل وبيئات تشغيل استدلال فعّالة؛ اختبروها بدلًا من استخدام ما دُرّب به النموذج أيًّا كان.

أخطاء شائعة

  • اعتبار السرعة مرادفة للطاقة. فقد خفّض باحثو GreenCode العاملون على llama.cpp طاقة GPU بنسبة 4.7% بينما ارتفعت السرعة 3% فقط: والمقياسان يرويان قصتين مختلفتين. قيسوا الاثنين.
  • الاختبار بحجم دفعة واحد بينما يعمل الإنتاج بتزامن أعلى بكثير، أو العكس.
  • ترك النسخ المتماثلة تعمل طوال الليل لحركة غير موجودة. انظروا كيف تمنعون بقاء وحدات GPU خاملة.
  • عدم تسخين النماذج المُترجَمة قبل القياس، ما يشوّه الأرقام.

للاطلاع على مجموعة الأدوات كاملة، اقرؤوا التدريب والاستدلال بكفاءة.

المصادر

  1. Optimizing inference, Hugging Face Transformers documentation (2026)
  2. Efficient Memory Management for Large Language Model Serving with PagedAttention, Kwon et al. (arXiv 2309.06180) (2023)
  3. GreenCode Constitution: agent principles for optimizing code and LLM inference energy use, Kapenekakis, Kim, Ionescu, Thomsen and Albano, GreenAI workshop, ECML PKDD 2026 (2026)
  4. Green Software Patterns: select efficient ML frameworks and inference runtimes, Green Software Foundation (2025)

انضموا إلينا

ساعدوا في خفض أثر الذكاء الاصطناعي على الكوكب

تلقّوا الأدلة الجديدة ودعوات التمويل وإدراجات الأدلة بالبريد الإلكتروني، مرة في الشهر تقريبًا. أو أضيفوا منتجكم أو دورتكم أو منحة الدكتوراه أو بحثكم إلى الأدلة.

بلا تتبّع. ألغوا الاشتراك بنقرة واحدة. طرق أخرى للانضمام · الخصوصية