باختصار
ضعوا موجّهًا أمام نماذجكم: قاعدة، أو مصنّفًا صغيرًا، أو سلسلة متتالية تجرّب نموذجًا صغيرًا أولًا وتصعّد إلى نموذج أكبر حين تكون الثقة منخفضة أو يفشل فحص ما. وقد خفّضت موجّهات منشورة التكاليف بأكثر من النصف في بعض الاختبارات دون خفض الجودة. اضبطوا العتبة على بياناتكم الخاصة، وقيسوا الكلفة لكل مهمة ناجحة، لا لكل استدعاء.
الخطوات
- أنشئوا مجموعة تقييم من طلبات حقيقية، مع معيار نجاح لكل منها.
- قيسوا كم مرة ينجح النموذج الصغير وحده.
- اختاروا تصميمًا للموجّه، مثل القواعد، أو مصنّف للصعوبة، أو سلسلة متتالية مع فحص.
- اضبطوا عتبة التصعيد على مجموعة التقييم.
- تتبّعوا الكلفة والطاقة لكل مهمة ناجحة، بما في ذلك حالات التصعيد وإعادة المحاولة.
- أعيدوا الضبط حين يتغير أي من النموذجين.
يمنحكم التوجيه معظم جودة النموذج الكبير بجزء كبير من كلفة النموذج الصغير. والفكرة بسيطة: أرسلوا كل طلب إلى أرخص نموذج يُرجَّح أن يتعامل معه جيدًا.
أي تصميم ينبغي أن أستخدم؟
- القواعد. وجّهوا حسب نوع الطلب أو طوله أو القناة التي جاء منها. سهلة الفهم، وكثيرًا ما تكفي.
- مصنّف الصعوبة. يتنبأ نموذج صغير بمدى صعوبة الطلب. ويوجّه عمل Hybrid LLM الذي أجراه Ding وزملاؤه الاستعلامات بين نموذج صغير وآخر كبير بهذه الطريقة، موازنًا بين الكلفة والجودة.
- السلسلة المتتالية. جرّبوا النموذج الصغير؛ فإن فشل فحص ما أو كانت الثقة منخفضة، مرّروا الطلب إلى نموذج أكبر. وقد درس FrugalGPT، من إعداد Chen وZaharia وZou، سلاسل كهذه لخفض الكلفة.
- الموجّه المتعلَّم. يُدرَّب على معرفة أي نموذج أحسن الأداء في أي طلب. وأفادت دراسة RouteLLM بخفض التكاليف بأكثر من النصف في بعض الحالات دون خفض جودة الردود.
أخطاء شائعة
- القياس لكل استدعاء. قد تكلّف محاولة فاشلة بالنموذج الصغير تليها إعادة بالنموذج الكبير أكثر من الذهاب مباشرة إلى الكبير. وقد نبّهت ورشة عمل مكثفة (sandpit) بريطانية عن الذكاء الاصطناعي الأخضر عُقدت في 2026، وجمعت علماء رياضيات وعلماء حاسوب وممثلين عن القطاع الصناعي، إلى أن هذا خطر حقيقي في الأنظمة الوكيلية. قيسوا لكل مهمة ناجحة.
- إلقاء الاختيار على المستخدمين. ضعوا التوجيه داخل النظام، لا في قائمة منسدلة يتجاهلها معظم الناس.
- الضبط ثم النسيان. سجّلوا معدلات التصعيد وراجعوها حين تتغير النماذج.
ما الذي يُحدث الفرق الأكبر؟
مجموعة تقييم جيدة. فمن دون أمثلة حقيقية ومعيار نجاح، لا يمكنكم ضبط العتبة ولا إثبات التوفير. اقرؤوا اختيار النموذج المناسب لمعرفة كيفية إنشائها.
المصادر
- RouteLLM: learning to route LLMs with preference data, Ong et al., ICLR 2025 (2024)
- FrugalGPT: how to use large language models while reducing cost and improving performance, Chen, Zaharia and Zou, Transactions on Machine Learning Research (2023)
- Hybrid LLM: cost-efficient and quality-aware query routing, Ding et al., ICLR (2024)
ذو صلة
اختاروا النموذج المناسب للمهمة
كيف تختارون ذكاءً اصطناعيًا بالحجم المناسب: متى تستخدمون نماذج صغيرة أو متخصصة، ومتى يستحق نموذج متقدم كلفته، وكيف يعمل التوجيه، ومتى لا تستخدمون الذكاء الاصطناعي.
التنسيق بدل التوليد
لماذا يمكن لإعادة استخدام مكوّنات مُراجَعة وتوجيه الطلبات إلى أصغر نموذج قادر أن يخفّضا استهلاك الذكاء الاصطناعي للطاقة، وماذا تقول الأدلة حتى الآن.
كيف أختار نموذج ذكاء اصطناعي أصغر؟
كيف تختارون أصغر نموذج ذكاء اصطناعي يؤدي مهمتكم جيدًا: حدّدوا مستوى الجودة، واختبروا من الأصغر إلى الأكبر، وراجعوا تصنيفات الطاقة، واحتفظوا بنموذج كبير احتياطيًا.
كيف أمنع وكلاء الذكاء الاصطناعي من إهدار الرموز (tokens)؟
ضوابط عملية لوكلاء الذكاء الاصطناعي: شروط توقف، وحدود للخطوات والرموز، وكشف الحلقات، وتقليص السياق، ونماذج صغيرة للخطوات البسيطة.