greenai.guide

الرئيسية › كيف أفعل…؟ › كيف أقلل الطاقة المستهلكة في البحث عن المعاملات الفائقة؟

كيف أفعل…؟

كيف أقلل الطاقة المستهلكة في البحث عن المعاملات الفائقة؟

تاريخ التحديث · مدة القراءة: 1 دقيقة

باختصار

استبدلوا البحث الشبكي الكبير ببحث عشوائي أو تكيّفي، وأوقفوا التجارب الضعيفة مبكرًا، وأجروا تجارب أولية على بيانات صغيرة أو نماذج صغيرة أولًا، وابدؤوا من القيم الافتراضية المنشورة لبنيتكم. وتتبعوا الطاقة لكل تجربة، لا للفائزة وحدها، وحدّدوا ميزانية حوسبة قبل أن تبدؤوا. فكثيرًا ما تكلّف تشغيلات الضبط أكثر من تشغيل التدريب النهائي، ونادرًا ما يُبلَّغ عنها.

الخطوات

  1. حدّدوا ميزانية حوسبة للبحث قبل أن تبدؤوا.
  2. ابدؤوا من القيم الافتراضية المنشورة للمعاملات الفائقة لعائلة نموذجكم.
  3. استخدموا البحث العشوائي أو التكيّفي بدلًا من شبكة كاملة.
  4. أوقفوا التجارب مبكرًا حين يتضح أنها أسوأ من أفضل نتيجة حتى الآن.
  5. أجروا تجربة أولية على جزء من البيانات أو على نموذج أصغر قبل التوسع.
  6. سجّلوا الطاقة والانبعاثات لكل تجربة إلى جانب الدقة.

اضبطوا بذكاء، لا باتساع. فالشبكة الكاملة على معاملات فائقة كثيرة تضاعف كلفة التدريب بعدد التوليفات، ومعظم هذه التشغيلات يتضح مبكرًا أنها أسوأ.

لماذا يهم ذلك؟

قدّرت ورقة Strubell وGanesh وMcCallum لعام 2019 كلفة تطوير النماذج اللغوية، بما في ذلك التجارب المحيطة بها، لا تشغيل التدريب النهائي وحده. ورأى Schwartz وزملاؤه في ورقة "Green AI" أن على الباحثين الإبلاغ عن الكلفة الحسابية لنتائجهم، بما في ذلك التجارب التي احتاجوا إليها للوصول إليها، حتى تُقدَّر الكفاءة إلى جانب الدقة.

ما الذي يُحدث الفرق الأكبر؟

  • الإيقاف المبكر للتجارب الضعيفة. تمنح الطرق من نوع التنصيف المتتالي (successive halving) كل تجربة ميزانية صغيرة، ولا تواصل إلا الواعدة منها. وتدعم معظم مكتبات الضبط ذلك.
  • البحث العشوائي أو التكيّفي. بدلًا من تشغيل كل توليفة، اختاروا الإعدادات عشوائيًا أو دعوا طريقة تكيّفية تستخدم النتائج السابقة لاختيار التجربة التالية.
  • التجارب الأولية الصغيرة. استبعدوا الأفكار على جزء من البيانات أو على نموذج أصغر.
  • القيم الافتراضية أولًا. فالقيم الافتراضية المجرّبة جيدًا للبنى الشائعة كثيرًا ما تكون قريبة من المثلى.
  • تتبّع كل تجربة. تُبيّن وثائق CodeCarbon كيف تتبعون كل إعداد وتقارنون الدقة بالانبعاثات.

أخطاء شائعة

للمزيد، اقرؤوا الدليل الخاص بالباحثين.

المصادر

  1. Energy and policy considerations for deep learning in NLP, Strubell, Ganesh and McCallum, ACL (2019)
  2. Green AI, Schwartz, Dodge, Smith and Etzioni, Communications of the ACM (2020)
  3. Comparing model efficiency with carbon tracking, CodeCarbon documentation (2025)
كيف أفعل…؟

كيف أحدد ميزانية حوسبة لمشروع بحثي في الذكاء الاصطناعي؟

حدّدوا ميزانية حوسبة لأبحاث الذكاء الاصطناعي وتتبّعوها: قدّروا ساعات GPU، وجرّبوا على نطاق صغير، وأوقفوا الجولات الضعيفة مبكرًا، وأعيدوا استخدام النماذج، وأبلغوا عن النتائج مقابل الحوسبة.

كيف أفعل…؟

كيف أقلل الطاقة المستهلكة في تدريب نموذج ذكاء اصطناعي؟

الروافع الرئيسية لخفض طاقة التدريب: ابدؤوا بنموذج مدرّب مسبقًا، واختاروا الحجم المناسب، واستخدموا الدقة المختلطة، وتوقفوا مبكرًا، واختاروا أماكن وأوقاتًا نظيفة، وقيسوا.

كيف أفعل…؟

كيف أُبلغ عن استهلاك الطاقة في بحثي عن الذكاء الاصطناعي؟

ما الذي تضعونه في الورقة البحثية عن الحوسبة والطاقة: العتاد، وساعات GPU لكل الجولات، والطاقة، والموقع، والكربون، وكلفة الاستدلال، وحدود القياس.

دليل إرشادي

الذكاء الاصطناعي الأخضر للباحثين

دليل للباحثين عن الأساليب الموفّرة في الذكاء الاصطناعي، وقياس الطاقة والإبلاغ عنها في الأوراق البحثية، وميزانيات الحوسبة، والتمويل، ومواضع إسهام الرياضيات.

انضموا إلينا

ساعدوا في خفض أثر الذكاء الاصطناعي على الكوكب

تلقّوا الأدلة الجديدة ودعوات التمويل وإدراجات الأدلة بالبريد الإلكتروني، مرة في الشهر تقريبًا. أو أضيفوا منتجكم أو دورتكم أو منحة الدكتوراه أو بحثكم إلى الأدلة.

بلا تتبّع. ألغوا الاشتراك بنقرة واحدة. طرق أخرى للانضمام · الخصوصية