انتقل إلى المحتوى

معرفة تضيء العالم

ما هي نماذج الذكاء الاصطناعي ذات الأوزان المفتوحة؟ تشغيل الذكاء الاصطناعي على جهازك الخاص باستخدام Llama وMistral وQwen وDeepSeek وGemma

بعض نماذج الذكاء الاصطناعي تعمل فقط على خوادم الشركة، بينما يتم مشاركة "أوزان" نماذج أخرى علنًا ويمكن تشغيلها على جهاز الكمبيوتر الخاص بك. الفرق بين الأوزان المفتوحة والمصدر المفتوح، وعائلات النماذج المعروفة، وأدوات التشغيل محليًا، ومتطلبات الأجهزة، والمزايا والقيود.

ما هي نماذج الذكاء الاصطناعي ذات الأوزان المفتوحة؟ تشغيل الذكاء الاصطناعي على جهازك الخاص باستخدام Llama وMistral وQwen وDeepSeek وGemma

عندما تستخدم مساعدين مثل ChatGPT أو Gemini أو Claude، يتم إرسال ما تكتبه إلى خوادم الشركة ويتم إنتاج الإجابة هناك. إلى جانبهم، تنتشر نماذج "الأوزان المفتوحة"، التي يمكن لأي شخص تنزيل ملفاتها المدربة وتشغيلها على جهاز الكمبيوتر أو الخادم الخاص به، بسرعة.

ماذا تعني "الأوزان"؟

يخزن نموذج اللغة ما يتعلمه من النص أثناء التدريب في مليارات القيم العددية (المعلمات، أو "الأوزان"). يتكون ملف النموذج بشكل أساسي من هذه الأوزان. مع نموذج الأوزان المفتوحة، تتم مشاركة هذا الملف، لذا يمكن للنموذج العمل دون اتصال بالإنترنت أو خوادم الشركة.

هل الوزن المفتوح هو نفسه المصدر المفتوح؟

ليس دائمًا. وفقًا لـ "تعريف الذكاء الاصطناعي مفتوح المصدر" الذي نشرته مبادرة المصدر المفتوح (OSI) في عام 2024، لكي يُحسب النموذج كمصدر مفتوح، يجب أيضًا مشاركة كود التدريب ومعلومات كافية حول بيانات التدريب، ويجب أن يكون الاستخدام غير مقيد. تشارك العديد من النماذج الشائعة أوزانها فقط وتأتي مع شروط ترخيص خاصة بها، على سبيل المثال تتطلب إذنًا إضافيًا للشركات التي يزيد عدد مستخدميها عن حد معين أو تقيد استخدامات معينة. لذا اقرأ ترخيص النموذج قبل استخدامه تجاريًا.

عائلات النماذج المعروفة

  • Llama: تم تطويره بواسطة Meta، وهو رائد في نشر نماذج الأوزان المفتوحة.
  • Mistral: نماذج من شركة Mistral AI الفرنسية.
  • Qwen: عائلة نماذج متعددة اللغات من Alibaba.
  • DeepSeek: نماذج من شركة DeepSeek الصينية، وتتميز بشكل خاص بالاستدلال والبرمجة.
  • Gemma: نماذج Google المفتوحة صغيرة الحجم نسبيًا وفعالة.

تصدر هذه العائلات إصدارات جديدة بشكل متكرر؛ تحقق دائمًا من صفحاتها الرسمية لمعرفة الحالة الحالية والتراخيص.

كيفية تشغيلها على جهاز كمبيوتر

تتيح لك أدوات مجانية مثل Ollama وLM Studio وllama.cpp تنزيل وتشغيل النماذج المفتوحة ببضع نقرات أو أمر واحد. عادة ما يتم ضغط النماذج بطريقة تسمى "التكميم" (quantization) حتى تحتاج إلى ذاكرة أقل. يمكن للنماذج الصغيرة العمل حتى على كمبيوتر محمول حديث، بينما تحتاج النماذج الكبيرة إلى الكثير من الذاكرة وبطاقة رسومات قوية. كقاعدة عامة، كلما كان النموذج أكبر، زادت قدرته وزادت احتياجاته من الأجهزة.

المزايا

  • الخصوصية: البيانات لا تغادر جهازك أبدًا، وهو ميزة كبيرة عند العمل مع مستندات حساسة.
  • الاستخدام دون اتصال: بمجرد التنزيل، يمكن للنموذج العمل دون اتصال.
  • التخصيص: يمكن للمؤسسات ضبط النموذج بدقة (fine-tune) على بياناتها الخاصة لمهام محددة.
  • التحكم في التكلفة: بالنسبة للاستخدام المكثف، قد يكون التشغيل على أجهزتهم الخاصة أكثر قابلية للتنبؤ لبعض المؤسسات.

القيود والمخاطر

  • تتطلب أجهزة ومعرفة معينة بالإعداد.
  • يمكن للنماذج الصغيرة ارتكاب أخطاء والهلوسة (hallucinate) أكثر من أكبر النماذج المغلقة.
  • نظرًا لأن تدابير السلامة يمكن تغييرها بسهولة من قبل المستخدمين، تستمر المناقشات حول سوء الاستخدام.
  • قم بتنزيل ملفات النموذج فقط من مصادر موثوقة.

التراخيص: ما يجب مراقبته مع النماذج "المفتوحة"

القدرة على تنزيل أوزان النموذج لا تعني أنه يمكنك استخدامه بحرية لأي غرض. نص الترخيص هو ما يقرر حقًا، وهناك اختلافات مهمة بين العائلات:

  • تراخيص متساهلة: تم إصدار بعض النماذج، مثل Mistral 7B، بموجب ترخيص Apache 2.0، وDeepSeek-R1 بموجب ترخيص MIT. تسمح هذه التراخيص عمومًا بالاستخدام التجاري والتعديل.
  • تراخيص المجتمع: يتم توزيع نماذج Llama من Meta بموجب ترخيص المجتمع الخاص بها؛ على سبيل المثال، يجب على الشركات التي يزيد عدد مستخدميها النشطين شهريًا عن 700 مليون الحصول على ترخيص منفصل، ويُتوقع الالتزام بسياسة الاستخدام المقبول.
  • شروط الاستخدام: ترتبط نماذج Gemma من Google بنص شروط استخدام منفصل وقائمة بالاستخدامات المحظورة.
  • تراخيص مختلفة داخل عائلة واحدة: في بعض العائلات، مثل Qwen، يمكن أن يتغير الترخيص مع حجم النموذج، لذا يجب قراءة صفحة كل إصدار على حدة.

إذا كنت تفكر في استخدام نموذج في منتج أو خدمة، فتحقق من الترخيص وسياسة الاستخدام للإصدار الدقيق الذي قمت بتنزيله؛ وفي حالة الشك، اطلب المشورة القانونية.

ما الأجهزة الكافية؟ حساب تقريبي للذاكرة

هناك طريقة بسيطة لتقدير مقدار الذاكرة التي يحتاجها النموذج: اضرب عدد المعلمات في عدد البايتات لكل معلمة. بدقة 16 بت (2 بايت)، يحتاج نموذج به 7 مليارات معلمة إلى حوالي 14 جيجابايت من الذاكرة للأوزان وحدها. مع التكميم 4 بت، ينخفض نفس النموذج إلى حوالي 4-5 جيجابايت، مما يجعله قابلاً للتشغيل على العديد من أجهزة الكمبيوتر المحمولة الحالية.

يضاف إلى ذلك ذاكرة إضافية تزداد مع طول المحادثة (ذاكرة التخزين المؤقت للسياق)، لذا من الحكمة ترك بعض المساحة الإضافية فوق التقدير. يجعل مشروع llama.cpp، المستخدم على نطاق واسع لتشغيل النماذج محليًا، وتنسيق ملف GGUF الخاص به، من الممكن تشغيل النماذج المكممة على المعالج حتى على أجهزة الكمبيوتر التي لا تحتوي على بطاقة رسومات؛ ومع ذلك، تختلف السرعة بشكل كبير مع الأجهزة.

المصادر والمزيد من القراءة

  1. مبادرة المصدر المفتوح (OSI)، "تعريف الذكاء الاصطناعي مفتوح المصدر 1.0" (2024).
  2. Meta AI، صفحات ترخيص Llama وسياسة الاستخدام المقبول.
  3. Hugging Face، مركز النماذج المفتوحة والتوثيق.
  4. التوثيق الرسمي لـ Ollama وLM Studio.
  5. مؤسسة برمجيات Apache – ترخيص Apache 2.0
  6. Meta – اتفاقية ترخيص مجتمع Llama 3
  7. ggml-org – llama.cpp (GitHub) وتوثيق GGUF
مشاركة
تابع YulaHubكن أول من يعرف أهم أخبار اليوم.
RSS

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول المطلوبة مشار إليها بـ *