باختصار
ثبّتوا أداة تشغيل محلية مثل Ollama أو llama.cpp، ونزّلوا نموذجًا صغيرًا مفتوح الأوزان بصيغة مكمّمة مثل GGUF، وشغّلوه على حاسوبكم. اختاروا أصغر نموذج يؤدي مهمتكم: فالنسخ المكمّمة تحتاج إلى ذاكرة أقل بكثير، لذا فإن نموذجًا بـ 8 مليارات معامل يحتاج إلى نحو 16 GB بصيغة 16 بت يتسع في نحو 4–5 GB بدقة 4 بتات.
الخطوات
- تحققوا من ذاكرة حاسوبكم ومما إذا كان يحتوي على وحدة معالجة رسومات (GPU) قابلة للاستخدام أو شريحة Apple silicon.
- ثبّتوا أداة تشغيل محلية مثل Ollama أو llama.cpp.
- نزّلوا نموذجًا صغيرًا مفتوح الأوزان بصيغة مكمّمة تناسب ذاكرتكم.
- اختبروه على مهامكم الفعلية، ولا تنتقلوا إلى حجم أكبر إلا إن قصّر.
- قيسوا طاقته بمقياس يوصل بالمقبس أو بأداة مثل CodeCarbon.
- أغلقوا النموذج حين لا تستخدمونه حتى لا يحتجز الذاكرة أو يستهلك الطاقة.
تشغيل نموذج محليًا يعني اختيار أداة تشغيل، ونموذج يناسب جهازكم، ثم القياس. فهو يُبقي البيانات على جهازكم ويتيح لكم أن تروا بدقة ما يكلّفه الذكاء الاصطناعي من طاقة، وهو ما لا تُظهره لكم أي خدمة مستضافة.
ماذا أحتاج؟
- أداة تشغيل. Ollama طريقة شائعة لاستخدام النماذج المفتوحة على حاسوبكم. أما llama.cpp فمحرّك منخفض المستوى بلغة C/C++ يهدف إلى تشغيل النماذج بأقل قدر من الإعداد على طيف واسع من العتاد.
- ملف نموذج. GGUF صيغة ثنائية محسّنة للتحميل السريع والاستدلال الفعّال، ولها نسخ مكمّمة من أقل من 2 بت إلى 8 بتات لكل وزن.
- ذاكرة كافية. تعطي وثائق Hugging Face قاعدة تقريبية: يحتاج نموذج بـ 8 مليارات معامل إلى نحو 16 GB لأوزانه بصيغة 16 بت، ونحو 8 GB بدقة 8 بتات، ونحو 4–5 GB بدقة 4 بتات. والبتات الأقل تكلّف شيئًا من الدقة.
هل هو أكثر مراعاة للبيئة من السحابة؟
ليس تلقائيًا. فالحاسوب المحمول الذي يعالج طلبًا واحدًا في كل مرة قد يكون أقل كفاءة لكل إجابة من خادم مشغول في مركز بيانات يجمع الطلبات في دفعات جيدًا. ويتفوق التشغيل المحلي حين يكون النموذج صغيرًا، أو تكون المهمة متكررة، أو حين يوفّر إرسال بيانات كبيرة عبر الشبكة. راجعوا الجهاز أم السحابة.
أخطاء شائعة
- تنزيل أكبر نموذج يتسع له جهازكم. ابدؤوا صغارًا؛ راجعوا اختيار نموذج ذكاء اصطناعي أصغر.
- ترك النموذج محمّلًا طوال اليوم على حاسوب مكتبي بوحدة معالجة رسومات شرهة للطاقة.
- شراء وحدة معالجة رسومات جديدة قبل تجربة نموذج مكمّم؛ راجعوا كيف تكمّمون نموذجًا.
للتحقق من الطاقة، استخدموا مقياسًا يوصل بالمقبس أو CodeCarbon، كما هو موضح في قياس الطاقة التي يستهلكها الذكاء الاصطناعي على حاسوبكم. وللاطلاع على المفاضلات، اقرؤوا الطرف أم السحابة.
المصادر
- Ollama documentation, Ollama (2026)
- llama.cpp: LLM inference in C/C++, ggml-org (GitHub) (2026)
- GGUF, Hugging Face Hub documentation (2026)
- Quantization overview, Hugging Face Transformers documentation (2026)
- CodeCarbon, CodeCarbon (2026)
ذو صلة
كيف أجري تكميمًا (quantisation) لنموذج ذكاء اصطناعي؟
كيف تكمّمون نموذج ذكاء اصطناعي إلى 8 أو 4 بتات: أي الأدوات تستخدمون، وكيف تختبرون الجودة، ومتى يوفّر التكميم الطاقة ومتى لا يوفّرها.
هل أشغّل الذكاء الاصطناعي على جهازي أم في السحابة؟
كيف توازنون الذكاء الاصطناعي على الجهاز (الحافة) بالذكاء الاصطناعي السحابي من حيث الطاقة والخصوصية والجودة، وأي المهام تناسب كلًّا منهما، مع تحفظات صادقة على الأدلة.
كيف أقيس الطاقة التي يستهلكها الذكاء الاصطناعي على حاسوبي أو وحدة معالجة الرسومات لديّ؟
قيسوا طاقة الذكاء الاصطناعي المحلي بعدّادات العتاد أو بيانات قياس GPU أو مقياس يوصل بالمقبس، وخذوا عينات طوال المهمة واطرحوا خط الأساس في وضع الخمول.
الحافة أم السحابة: أين ينبغي أن يعمل الذكاء الاصطناعي؟
كيف توازنون بين الذكاء الاصطناعي على الجهاز وعلى الحافة ومراكز البيانات المركزية: الطاقة والشبكة والعتاد والخصوصية والصمود، مع طريقة متدرجة لاتخاذ القرار.