greenai.guide

الرئيسية › كيف أفعل…؟ › كيف أجعل البحث المتجهي وRAG أكثر كفاءة؟

كيف أفعل…؟

كيف أجعل البحث المتجهي وRAG أكثر كفاءة؟

تاريخ التحديث · مدة القراءة: 1 دقيقة

باختصار

استخدموا فهرسًا تقريبيًا لأقرب الجيران بدلًا من مقارنة كل استعلام بكل متجه مخزّن، واسترجعوا بضعة مقاطع قصيرة وذات صلة بدلًا من مقاطع طويلة كثيرة، ولا تعيدوا التضمين إلا للمحتوى الذي تغيّر. ثم استخدموا أصغر نموذج توليد يجيب جيدًا انطلاقًا من سياق جيد. فمعظم الهدر في أنظمة الاسترجاع يأتي من البحث بالقوة الغاشمة ومن الموجّهات (prompts) المتضخمة.

الخطوات

  1. استبدلوا بالمقارنة المتجهية بالقوة الغاشمة فهرسًا تقريبيًا لأقرب الجيران.
  2. قسّموا المستندات إلى أجزاء قصيرة ولا تسترجعوا إلا أفضل بضعة منها.
  3. لا تعيدوا التضمين إلا للمحتوى الجديد أو المتغير بدلًا من إعادة بناء الفهرس كاملًا.
  4. سجّلوا رموز (tokens) المُدخلات لكل إجابة، واحذفوا السياق الذي لا يحسّن الجودة.
  5. اختبروا نموذج توليد أصغر بعد أن تصبح جودة الاسترجاع جيدة.

ينبغي أن يجعل الاسترجاع النموذج يقرأ أقل، لا أكثر. فنظام التوليد المعزّز بالاسترجاع (RAG) المبني جيدًا يجد بضعة مقاطع ذات صلة بسرعة، ولا يسلّم إلى النموذج إلا إياها.

أين يهدر RAG الطاقة؟

  • البحث بالقوة الغاشمة. مقارنة الاستعلام بكل تضمين مخزّن، واحدًا تلو الآخر، تكبر مع حجم المجموعة. وتوصي Green Software Foundation بفهرس تقريبي لأقرب الجيران بدلًا من ذلك.
  • السياق المتضخم. استرجاع عشرين مقطعًا طويلًا "احتياطًا" يضاعف رموز المُدخلات. وتقدّر Epoch AI أن الاستعلام المعتاد البالغ نحو 0.3 Wh يرتفع إلى نحو 2.5 Wh مع مُدخل من 10,000 رمز.
  • إعادة بناء كل شيء. إعادة تضمين مخزن المستندات كاملًا كل ليلة بينما لم يتغير إلا عدد قليل من المستندات.

ما الذي يُحدث الفرق الأكبر؟

استرجاع أفضل، فيحتاج النموذج إلى سياق أقل. فالتقسيم الجيد إلى أجزاء، وخطوة إعادة الترتيب، ومرشّحات البيانات الوصفية (التاريخ، والقسم، والمنتج) تعني أن ثلاثة مقاطع قصيرة يمكن أن تؤدي عمل خمسة عشر مقطعًا طويلًا. وبعد أن يصبح السياق جيدًا، كثيرًا ما يجيب نموذج توليد أصغر بالجودة نفسها؛ راجعوا كيف تختارون نموذج ذكاء اصطناعي أصغر.

أخطاء شائعة

  • استخدام نموذج تضمين كبير حيث يسترجع نموذج صغير بالجودة نفسها على بياناتكم. اختبروا الاثنين.
  • عدم وجود مجموعة تقييم. قيسوا جودة الاسترجاع (هل عاد المقطع الصحيح؟) بمعزل عن جودة الإجابة.
  • عدم التخزين المؤقت لأي شيء. يمكن أن تعيد الأسئلة الشائعة استخدام الإجابات؛ راجعوا كيف تستخدمون التخزين المؤقت.

وللفكرة الأوسع، أي إعادة الاستخدام بدلًا من إعادة التوليد، اقرؤوا التنسيق بدلًا من التوليد.

المصادر

  1. Green Software Patterns: optimise data storage formats for AI training and inference, Green Software Foundation (2025)
  2. Retrieval-augmented generation for knowledge-intensive NLP tasks, Lewis et al., NeurIPS (2020)
  3. How much energy does ChatGPT use?, Epoch AI (2025)
كيف أفعل…؟

هل أستخدم الاسترجاع (RAG) أم الضبط الدقيق لتوفير الطاقة؟

متى تستخدمون الاسترجاع (RAG) ومتى تلجؤون إلى الضبط الدقيق: الاسترجاع للحقائق المتغيرة، والضبط الدقيق للمهارات والأسلوب، ولماذا يهدر الخلط بينهما الطاقة.

كيف أفعل…؟

كيف أمنع روبوت المحادثة من إعادة إرسال المحادثة كاملة في كل مرة؟

كيف تبقون سياق روبوت المحادثة صغيرًا: حدّدوا عدد الأدوار السابقة، ولخّصوا الرسائل القديمة، واسترجعوا ما يلزم، وخزّنوا الطلبات الثابتة مؤقتًا.

مقالة

التنسيق بدل التوليد

لماذا يمكن لإعادة استخدام مكوّنات مُراجَعة وتوجيه الطلبات إلى أصغر نموذج قادر أن يخفّضا استهلاك الذكاء الاصطناعي للطاقة، وماذا تقول الأدلة حتى الآن.

كيف أفعل…؟

كيف أخزّن بيانات تدريب الذكاء الاصطناعي بحيث تقرأ خطوط المعالجة قدرًا أقل؟

كيف تخفّض الصيغ العمودية والثنائية والتقسيم والمعالجة المسبقة لمرة واحدة الطاقة التي تنفقها خطوط معالجة الذكاء الاصطناعي في قراءة بيانات التدريب وتحليلها.

انضموا إلينا

ساعدوا في خفض أثر الذكاء الاصطناعي على الكوكب

تلقّوا الأدلة الجديدة ودعوات التمويل وإدراجات الأدلة بالبريد الإلكتروني، مرة في الشهر تقريبًا. أو أضيفوا منتجكم أو دورتكم أو منحة الدكتوراه أو بحثكم إلى الأدلة.

بلا تتبّع. ألغوا الاشتراك بنقرة واحدة. طرق أخرى للانضمام · الخصوصية