مواد پر جائیں

دنیا کو روشن کرنے والا علم

اوپن ویٹ (Open-Weight) اے آئی ماڈلز کیا ہیں؟ لاما (Llama)، مسٹرل (Mistral)، کیووین (Qwen)، ڈیپ سیک (DeepSeek) اور جیما (Gemma) کے ساتھ اپنے کمپیوٹر پر اے آئی چلانا

کچھ اے آئی ماڈلز صرف کسی کمپنی کے سرورز پر چلتے ہیں، جبکہ کچھ کے "ویٹس" (weights) عوامی طور پر شیئر کیے جاتے ہیں اور انہیں آپ اپنے کمپیوٹر پر چلا سکتے ہیں۔ اوپن ویٹ اور اوپن سورس کے درمیان فرق، معروف ماڈل فیملیز، انہیں مقامی طور پر چلانے کے ٹولز، ہارڈویئر کی ضروریات، فوائد اور حدود۔

اوپن ویٹ (Open-Weight) اے آئی ماڈلز کیا ہیں؟ لاما (Llama)، مسٹرل (Mistral)، کیووین (Qwen)، ڈیپ سیک (DeepSeek) اور جیما (Gemma) کے ساتھ اپنے کمپیوٹر پر اے آئی چلانا

جب آپ چیٹ جی پی ٹی (ChatGPT)، جیمنائی (Gemini) یا کلاڈ (Claude) جیسے اسسٹنٹس استعمال کرتے ہیں، تو آپ جو کچھ ٹائپ کرتے ہیں وہ کمپنی کے سرورز پر بھیجا جاتا ہے اور جواب وہیں تیار ہوتا ہے۔ ان کے ساتھ ساتھ، "اوپن ویٹ" ماڈلز تیزی سے پھیل رہے ہیں، جن کی ٹرینڈ فائلیں کوئی بھی ڈاؤن لوڈ کر کے اپنے کمپیوٹر یا سرور پر چلا سکتا ہے۔

"ویٹس" (Weights) کا کیا مطلب ہے؟

ایک لینگویج ماڈل تربیت کے دوران متن سے جو کچھ سیکھتا ہے اسے اربوں عددی اقدار (پیرامیٹرز، یا "ویٹس") میں محفوظ کرتا ہے۔ ماڈل فائل بنیادی طور پر ان ویٹس پر مشتمل ہوتی ہے۔ اوپن ویٹ ماڈل کے ساتھ یہ فائل شیئر کی جاتی ہے، لہذا ماڈل انٹرنیٹ کنکشن یا کمپنی کے سرورز کے بغیر چل سکتا ہے۔

کیا اوپن ویٹ اور اوپن سورس ایک ہی ہیں؟

ہمیشہ نہیں۔ اوپن سورس انیشیٹو (OSI) کی طرف سے 2024 میں شائع کردہ "اوپن سورس اے آئی ڈیفینیشن" کے مطابق، کسی ماڈل کے اوپن سورس ہونے کے لیے ضروری ہے کہ ٹریننگ کوڈ اور ٹریننگ ڈیٹا کے بارے میں کافی معلومات بھی شیئر کی جائیں، اور استعمال پر کوئی پابندی نہ ہو۔ بہت سے مقبول ماڈلز صرف اپنے ویٹس شیئر کرتے ہیں اور ان کی اپنی لائسنس کی شرائط ہوتی ہیں، مثال کے طور پر، ایک خاص تعداد سے زیادہ صارفین والی کمپنیوں کے لیے اضافی اجازت درکار ہو سکتی ہے یا کچھ استعمال پر پابندی ہو سکتی ہے۔ لہذا تجارتی استعمال سے پہلے ماڈل کا لائسنس ضرور پڑھیں۔

معروف ماڈل فیملیز

  • لاما (Llama): میٹا (Meta) کی طرف سے تیار کردہ، اوپن ویٹ ماڈلز کو مقبول بنانے میں ایک پیشرو۔
  • مسٹرل (Mistral): فرانسیسی کمپنی مسٹرل اے آئی کے ماڈلز۔
  • کیووین (Qwen): علی بابا کی کثیر لسانی ماڈل فیملی۔
  • ڈیپ سیک (DeepSeek): چینی کمپنی ڈیپ سیک کے ماڈلز، جو خاص طور پر استدلال اور کوڈنگ کے لیے جانے جاتے ہیں۔
  • جیما (Gemma): گوگل کے نسبتاً چھوٹے، موثر اوپن ماڈلز۔

یہ فیملیز اکثر نئے ورژن جاری کرتی ہیں؛ موجودہ حالت اور لائسنس کے لیے ہمیشہ ان کے آفیشل صفحات دیکھیں۔

کمپیوٹر پر انہیں کیسے چلائیں

اولاما (Ollama)، ایل ایم اسٹوڈیو (LM Studio) اور لاما ڈاٹ سی پی پی (llama.cpp) جیسے مفت ٹولز آپ کو چند کلکس یا ایک کمانڈ کے ساتھ اوپن ماڈلز ڈاؤن لوڈ اور چلانے کی سہولت دیتے ہیں۔ ماڈلز کو عام طور پر "کوانٹائزیشن" نامی طریقہ کار سے کمپریس کیا جاتا ہے تاکہ انہیں کم میموری کی ضرورت ہو۔ چھوٹے ماڈلز جدید لیپ ٹاپ پر بھی چل سکتے ہیں، جبکہ بڑے ماڈلز کو بہت زیادہ میموری اور طاقتور گرافکس کارڈ کی ضرورت ہوتی ہے۔ اصول یہ ہے کہ ماڈل جتنا بڑا ہوگا، وہ اتنا ہی قابل ہوگا اور اسے اتنے ہی زیادہ ہارڈویئر کی ضرورت ہوگی۔

فوائد

  • رازداری: ڈیٹا کبھی بھی آپ کے آلے سے باہر نہیں جاتا، حساس دستاویزات کے ساتھ کام کرتے وقت یہ ایک بڑا پلس ہے۔
  • آف لائن استعمال: ایک بار ڈاؤن لوڈ ہونے کے بعد، ماڈل بغیر کنکشن کے چل سکتا ہے۔
  • حسب ضرورت بنانا (Customisation): تنظیمیں مخصوص کاموں کے لیے ماڈل کو اپنے ڈیٹا پر فائن ٹیون کر سکتی ہیں۔
  • لاگت پر کنٹرول: بھاری استعمال کے لیے، اپنے ہارڈویئر پر چلانا کچھ تنظیموں کے لیے زیادہ پیش قیاسی ہو سکتا ہے۔

حدود اور خطرات

  • انہیں ہارڈویئر اور کچھ سیٹ اپ نالج کی ضرورت ہوتی ہے۔
  • چھوٹے ماڈلز سب سے بڑے بند ماڈلز کے مقابلے میں زیادہ غلطیاں کر سکتے ہیں اور ہلوسینیشن (غلط معلومات) کا شکار ہو سکتے ہیں۔
  • چونکہ حفاظتی اقدامات صارفین کی طرف سے آسانی سے تبدیل کیے جا سکتے ہیں، اس لیے غلط استعمال کے بارے میں بحث جاری ہے۔
  • ماڈل فائلیں صرف قابل اعتماد ذرائع سے ڈاؤن لوڈ کریں۔

لائسنس: "اوپن" ماڈلز کے ساتھ کن چیزوں کا خیال رکھیں

کسی ماڈل کے ویٹس ڈاؤن لوڈ کرنے کے قابل ہونے کا مطلب یہ نہیں ہے کہ آپ اسے کسی بھی مقصد کے لیے آزادانہ طور پر استعمال کر سکتے ہیں۔ لائسنس کا متن ہی اصل فیصلہ کرتا ہے، اور فیملیز کے درمیان اہم فرق ہیں:

  • اجازت نامہ لائسنس (Permissive licences): کچھ ماڈلز، جیسے مسٹرل 7 بی (Mistral 7B)، اپاچی 2.0 (Apache 2.0) لائسنس کے تحت جاری کیے گئے تھے، اور ڈیپ سیک-آر1 (DeepSeek-R1) ایم آئی ٹی (MIT) لائسنس کے تحت۔ یہ لائسنس عام طور پر تجارتی استعمال اور ترمیم کی اجازت دیتے ہیں۔
  • کمیونٹی لائسنس: میٹا کے لاما ماڈلز ان کے اپنے کمیونٹی لائسنس کے تحت تقسیم کیے جاتے ہیں؛ مثال کے طور پر، 700 ملین سے زیادہ ماہانہ فعال صارفین والی کمپنیوں کو الگ لائسنس حاصل کرنا ہوگا، اور قابل قبول استعمال کی پالیسی کی تعمیل متوقع ہے۔
  • استعمال کی شرائط: گوگل کے جیما ماڈلز استعمال کی شرائط کے ایک الگ متن اور ممنوعہ استعمال کی فہرست کے پابند ہیں۔
  • ایک ہی فیملی کے اندر مختلف لائسنس: کچھ فیملیز میں، جیسے کیووین (Qwen)، لائسنس ماڈل کے سائز کے ساتھ تبدیل ہو سکتا ہے، لہذا ہر ریلیز کا صفحہ الگ سے پڑھنا ضروری ہے۔

اگر آپ کسی پروڈکٹ یا سروس میں ماڈل استعمال کرنے کا سوچ رہے ہیں، تو اپنے ڈاؤن لوڈ کردہ ورژن کے لیے لائسنس اور استعمال کی پالیسی چیک کریں؛ اگر شک ہو تو قانونی مشورہ لیں۔

کون سا ہارڈویئر کافی ہے؟ میموری کا ایک اندازہ

ماڈل کو کتنی میموری کی ضرورت ہے اس کا اندازہ لگانے کا ایک آسان طریقہ ہے: پیرامیٹرز کی تعداد کو فی پیرامیٹر بائٹس کی تعداد سے ضرب دیں۔ 16-بٹ (2-بائٹ) پریسجن پر، 7 بلین پیرامیٹرز والے ماڈل کو صرف ویٹس کے لیے تقریباً 14 جی بی میموری کی ضرورت ہوتی ہے۔ 4-بٹ کوانٹائزیشن کے ساتھ وہی ماڈل تقریباً 4-5 جی بی تک گر جاتا ہے، جو اسے بہت سے موجودہ لیپ ٹاپس پر چلانے کے قابل بناتا ہے۔

اس کے اوپر اضافی میموری آتی ہے جو گفتگو کی لمبائی کے ساتھ بڑھتی ہے (کانٹیکسٹ کیش)، لہذا تخمینے سے کچھ زیادہ گنجائش رکھنا دانشمندی ہے۔ لاما ڈاٹ سی پی پی (llama.cpp) پروجیکٹ، جو مقامی طور پر ماڈلز چلانے کے لیے وسیع پیمانے پر استعمال ہوتا ہے، اور اس کا جی جی یو ایف (GGUF) فائل فارمیٹ گرافکس کارڈ کے بغیر کمپیوٹرز پر بھی پروسیسر پر کوانٹائزڈ ماڈلز چلانا ممکن بناتا ہے؛ تاہم، رفتار ہارڈویئر کے لحاظ سے کافی مختلف ہوتی ہے۔

ذرائع اور مزید مطالعہ

  1. اوپن سورس انیشیٹو (OSI)، "دی اوپن سورس اے آئی ڈیفینیشن 1.0" (2024)۔
  2. میٹا اے آئی، لاما لائسنس اور قابل قبول استعمال کی پالیسی کے صفحات۔
  3. ہگنگ فیس (Hugging Face)، اوپن ماڈل ہب اور دستاویزات۔
  4. اولاما اور ایل ایم اسٹوڈیو آفیشل دستاویزات۔
  5. اپاچی سافٹ ویئر فاؤنڈیشن – اپاچی لائسنس 2.0
  6. میٹا – لاما 3 کمیونٹی لائسنس ایگریمنٹ
  7. جی جی ایم ایل-آرگ – لاما ڈاٹ سی پی پی (GitHub) اور جی جی یو ایف دستاویزات
شیئر کریں
YulaHub کو فالو کریںدن کی اہم ترین خبریں سب سے پہلے حاصل کریں۔
RSS

Leave a comment

Your email address will not be published. Required fields are marked *