greenai.guide

الرئيسية › كيف أفعل…؟ › كيف أشغّل نموذج ذكاء اصطناعي محليًا على جهازي؟

كيف أفعل…؟

كيف أشغّل نموذج ذكاء اصطناعي محليًا على جهازي؟

تاريخ التحديث · مدة القراءة: 1 دقيقة

باختصار

ثبّتوا أداة تشغيل محلية مثل Ollama أو llama.cpp، ونزّلوا نموذجًا صغيرًا مفتوح الأوزان بصيغة مكمّمة مثل GGUF، وشغّلوه على حاسوبكم. اختاروا أصغر نموذج يؤدي مهمتكم: فالنسخ المكمّمة تحتاج إلى ذاكرة أقل بكثير، لذا فإن نموذجًا بـ 8 مليارات معامل يحتاج إلى نحو 16 GB بصيغة 16 بت يتسع في نحو 4–5 GB بدقة 4 بتات.

الخطوات

  1. تحققوا من ذاكرة حاسوبكم ومما إذا كان يحتوي على وحدة معالجة رسومات (GPU) قابلة للاستخدام أو شريحة Apple silicon.
  2. ثبّتوا أداة تشغيل محلية مثل Ollama أو llama.cpp.
  3. نزّلوا نموذجًا صغيرًا مفتوح الأوزان بصيغة مكمّمة تناسب ذاكرتكم.
  4. اختبروه على مهامكم الفعلية، ولا تنتقلوا إلى حجم أكبر إلا إن قصّر.
  5. قيسوا طاقته بمقياس يوصل بالمقبس أو بأداة مثل CodeCarbon.
  6. أغلقوا النموذج حين لا تستخدمونه حتى لا يحتجز الذاكرة أو يستهلك الطاقة.

تشغيل نموذج محليًا يعني اختيار أداة تشغيل، ونموذج يناسب جهازكم، ثم القياس. فهو يُبقي البيانات على جهازكم ويتيح لكم أن تروا بدقة ما يكلّفه الذكاء الاصطناعي من طاقة، وهو ما لا تُظهره لكم أي خدمة مستضافة.

ماذا أحتاج؟

  • أداة تشغيل. Ollama طريقة شائعة لاستخدام النماذج المفتوحة على حاسوبكم. أما llama.cpp فمحرّك منخفض المستوى بلغة C/C++ يهدف إلى تشغيل النماذج بأقل قدر من الإعداد على طيف واسع من العتاد.
  • ملف نموذج. GGUF صيغة ثنائية محسّنة للتحميل السريع والاستدلال الفعّال، ولها نسخ مكمّمة من أقل من 2 بت إلى 8 بتات لكل وزن.
  • ذاكرة كافية. تعطي وثائق Hugging Face قاعدة تقريبية: يحتاج نموذج بـ 8 مليارات معامل إلى نحو 16 GB لأوزانه بصيغة 16 بت، ونحو 8 GB بدقة 8 بتات، ونحو 4–5 GB بدقة 4 بتات. والبتات الأقل تكلّف شيئًا من الدقة.

هل هو أكثر مراعاة للبيئة من السحابة؟

ليس تلقائيًا. فالحاسوب المحمول الذي يعالج طلبًا واحدًا في كل مرة قد يكون أقل كفاءة لكل إجابة من خادم مشغول في مركز بيانات يجمع الطلبات في دفعات جيدًا. ويتفوق التشغيل المحلي حين يكون النموذج صغيرًا، أو تكون المهمة متكررة، أو حين يوفّر إرسال بيانات كبيرة عبر الشبكة. راجعوا الجهاز أم السحابة.

أخطاء شائعة

للتحقق من الطاقة، استخدموا مقياسًا يوصل بالمقبس أو CodeCarbon، كما هو موضح في قياس الطاقة التي يستهلكها الذكاء الاصطناعي على حاسوبكم. وللاطلاع على المفاضلات، اقرؤوا الطرف أم السحابة.

المصادر

  1. Ollama documentation, Ollama (2026)
  2. llama.cpp: LLM inference in C/C++, ggml-org (GitHub) (2026)
  3. GGUF, Hugging Face Hub documentation (2026)
  4. Quantization overview, Hugging Face Transformers documentation (2026)
  5. CodeCarbon, CodeCarbon (2026)
كيف أفعل…؟

كيف أجري تكميمًا (quantisation) لنموذج ذكاء اصطناعي؟

كيف تكمّمون نموذج ذكاء اصطناعي إلى 8 أو 4 بتات: أي الأدوات تستخدمون، وكيف تختبرون الجودة، ومتى يوفّر التكميم الطاقة ومتى لا يوفّرها.

كيف أفعل…؟

هل أشغّل الذكاء الاصطناعي على جهازي أم في السحابة؟

كيف توازنون الذكاء الاصطناعي على الجهاز (الحافة) بالذكاء الاصطناعي السحابي من حيث الطاقة والخصوصية والجودة، وأي المهام تناسب كلًّا منهما، مع تحفظات صادقة على الأدلة.

كيف أفعل…؟

كيف أقيس الطاقة التي يستهلكها الذكاء الاصطناعي على حاسوبي أو وحدة معالجة الرسومات لديّ؟

قيسوا طاقة الذكاء الاصطناعي المحلي بعدّادات العتاد أو بيانات قياس GPU أو مقياس يوصل بالمقبس، وخذوا عينات طوال المهمة واطرحوا خط الأساس في وضع الخمول.

ممارسات جيدة

الحافة أم السحابة: أين ينبغي أن يعمل الذكاء الاصطناعي؟

كيف توازنون بين الذكاء الاصطناعي على الجهاز وعلى الحافة ومراكز البيانات المركزية: الطاقة والشبكة والعتاد والخصوصية والصمود، مع طريقة متدرجة لاتخاذ القرار.

انضموا إلينا

ساعدوا في خفض أثر الذكاء الاصطناعي على الكوكب

تلقّوا الأدلة الجديدة ودعوات التمويل وإدراجات الأدلة بالبريد الإلكتروني، مرة في الشهر تقريبًا. أو أضيفوا منتجكم أو دورتكم أو منحة الدكتوراه أو بحثكم إلى الأدلة.

بلا تتبّع. ألغوا الاشتراك بنقرة واحدة. طرق أخرى للانضمام · الخصوصية