सामग्री पर जाएँ

दुनिया को रोशन करने वाला ज्ञान

ओपन-वेट एआई मॉडल क्या हैं? Llama, Mistral, Qwen, DeepSeek और Gemma के साथ अपने कंप्यूटर पर एआई चलाना

कुछ एआई मॉडल केवल कंपनी के सर्वर पर चलते हैं, जबकि अन्य के “वेट्स” (weights) सार्वजनिक रूप से साझा किए जाते हैं और उन्हें आप अपने कंप्यूटर पर चला सकते हैं। ओपन वेट और ओपन सोर्स के बीच का अंतर, प्रसिद्ध मॉडल परिवार, उन्हें स्थानीय रूप से चलाने के उपकरण, हार्डवेयर की आवश्यकताएं, लाभ और सीमाएं।

ओपन-वेट एआई मॉडल क्या हैं? Llama, Mistral, Qwen, DeepSeek और Gemma के साथ अपने कंप्यूटर पर एआई चलाना

जब आप ChatGPT, Gemini या Claude जैसे सहायकों का उपयोग करते हैं, तो आप जो टाइप करते हैं उसे कंपनी के सर्वर पर भेजा जाता है और उत्तर वहीं तैयार किया जाता है। इनके साथ-साथ, “ओपन-वेट” मॉडल भी तेजी से फैल रहे हैं, जिनकी प्रशिक्षित फ़ाइलों को कोई भी डाउनलोड कर सकता है और अपने कंप्यूटर या सर्वर पर चला सकता है।

“वेट्स” (weights) का क्या अर्थ है?

एक भाषा मॉडल प्रशिक्षण के दौरान टेक्स्ट से जो सीखता है, उसे अरबों संख्यात्मक मानों (पैरामीटर, या “वेट्स”) में संग्रहीत करता है। मॉडल फ़ाइल मुख्य रूप से इन्हीं वेट्स से बनी होती है। ओपन-वेट मॉडल के साथ यह फ़ाइल साझा की जाती है, इसलिए मॉडल बिना इंटरनेट कनेक्शन या कंपनी के सर्वर के चल सकता है।

क्या ओपन वेट और ओपन सोर्स एक ही हैं?

हमेशा नहीं। ओपन सोर्स इनिशिएटिव (OSI) द्वारा 2024 में प्रकाशित “ओपन सोर्स एआई परिभाषा” के अनुसार, किसी मॉडल को ओपन सोर्स माने जाने के लिए, प्रशिक्षण कोड और प्रशिक्षण डेटा के बारे में पर्याप्त जानकारी भी साझा की जानी चाहिए, और उपयोग अप्रतिबंधित होना चाहिए। कई लोकप्रिय मॉडल केवल अपने वेट्स साझा करते हैं और अपनी लाइसेंस शर्तों के साथ आते हैं, उदाहरण के लिए, एक निश्चित संख्या से अधिक उपयोगकर्ताओं वाली कंपनियों के लिए अतिरिक्त अनुमति की आवश्यकता होती है या कुछ उपयोगों को प्रतिबंधित किया जाता है। इसलिए व्यावसायिक रूप से उपयोग करने से पहले मॉडल का लाइसेंस पढ़ें।

प्रसिद्ध मॉडल परिवार

  • Llama: Meta द्वारा विकसित, ओपन-वेट मॉडल को लोकप्रिय बनाने में अग्रणी।
  • Mistral: फ्रांसीसी कंपनी Mistral AI के मॉडल।
  • Qwen: अलीबाबा का बहुभाषी मॉडल परिवार।
  • DeepSeek: चीनी कंपनी DeepSeek के मॉडल, जो विशेष रूप से तर्क (reasoning) और कोडिंग के लिए जाने जाते हैं।
  • Gemma: Google के अपेक्षाकृत छोटे, कुशल ओपन मॉडल।

ये परिवार अक्सर नए संस्करण जारी करते हैं; वर्तमान स्थिति और लाइसेंस के लिए हमेशा उनके आधिकारिक पृष्ठ देखें।

उन्हें कंप्यूटर पर कैसे चलाएं

Ollama, LM Studio और llama.cpp जैसे मुफ्त उपकरण आपको कुछ क्लिक या एक कमांड के साथ ओपन मॉडल डाउनलोड करने और चलाने देते हैं। मॉडल आमतौर पर “क्वांटाइजेशन” (quantization) नामक विधि से संकुचित होते हैं ताकि उन्हें कम मेमोरी की आवश्यकता हो। छोटे मॉडल एक हालिया लैपटॉप पर भी चल सकते हैं, जबकि बड़े मॉडल को बहुत अधिक मेमोरी और एक शक्तिशाली ग्राफिक्स कार्ड की आवश्यकता होती है। नियम के रूप में, मॉडल जितना बड़ा होगा, वह उतना ही सक्षम होगा और उसे उतने ही अधिक हार्डवेयर की आवश्यकता होगी।

लाभ

  • गोपनीयता: डेटा कभी भी आपके डिवाइस को नहीं छोड़ता है, संवेदनशील दस्तावेजों के साथ काम करते समय यह एक बड़ा प्लस है।
  • ऑफ़लाइन उपयोग: एक बार डाउनलोड हो जाने पर, मॉडल बिना कनेक्शन के चल सकता है।
  • अनुकूलन: संगठन विशिष्ट कार्यों के लिए अपने स्वयं के डेटा पर मॉडल को फाइन-ट्यून कर सकते हैं।
  • लागत नियंत्रण: भारी उपयोग के लिए, अपने स्वयं के हार्डवेयर पर चलाना कुछ संगठनों के लिए अधिक अनुमानित हो सकता है।

सीमाएं और जोखिम

  • उन्हें हार्डवेयर और कुछ सेटअप ज्ञान की आवश्यकता होती है।
  • छोटे मॉडल सबसे बड़े क्लोज्ड मॉडल की तुलना में अधिक बार गलतियां कर सकते हैं और मतिभ्रम (hallucinate) कर सकते हैं।
  • चूंकि सुरक्षा उपायों को उपयोगकर्ताओं द्वारा आसानी से बदला जा सकता है, इसलिए दुरुपयोग के बारे में बहस जारी है।
  • मॉडल फ़ाइलें केवल विश्वसनीय स्रोतों से ही डाउनलोड करें।

लाइसेंस: "ओपन" मॉडल के साथ क्या ध्यान रखें

किसी मॉडल के वेट्स को डाउनलोड करने में सक्षम होने का मतलब यह नहीं है कि आप इसे किसी भी उद्देश्य के लिए स्वतंत्र रूप से उपयोग कर सकते हैं। लाइसेंस टेक्स्ट ही वास्तव में निर्णय लेता है, और परिवारों के बीच महत्वपूर्ण अंतर हैं:

  • अनुमेय लाइसेंस (Permissive licences): कुछ मॉडल, जैसे Mistral 7B, को Apache 2.0 लाइसेंस के तहत जारी किया गया था, और DeepSeek-R1 को MIT लाइसेंस के तहत। ये लाइसेंस आमतौर पर व्यावसायिक उपयोग और संशोधन की अनुमति देते हैं।
  • सामुदायिक लाइसेंस (Community licences): Meta के Llama मॉडल उनके अपने सामुदायिक लाइसेंस के तहत वितरित किए जाते हैं; उदाहरण के लिए, 700 मिलियन से अधिक मासिक सक्रिय उपयोगकर्ताओं वाली कंपनियों को एक अलग लाइसेंस प्राप्त करना होगा, और स्वीकार्य उपयोग नीति का अनुपालन अपेक्षित है।
  • उपयोग की शर्तें: Google के Gemma मॉडल उपयोग की शर्तों के एक अलग टेक्स्ट और निषिद्ध उपयोगों की सूची से बंधे हैं।
  • एक ही परिवार के भीतर अलग-अलग लाइसेंस: कुछ परिवारों में, जैसे Qwen, लाइसेंस मॉडल के आकार के साथ बदल सकता है, इसलिए प्रत्येक रिलीज़ के पृष्ठ को अलग से पढ़ने की आवश्यकता है।

यदि आप किसी उत्पाद या सेवा में मॉडल का उपयोग करने के बारे में सोच रहे हैं, तो आपके द्वारा डाउनलोड किए गए सटीक संस्करण के लिए लाइसेंस और उपयोग नीति की जांच करें; यदि संदेह हो, तो कानूनी सलाह लें।

कौन सा हार्डवेयर पर्याप्त है? एक मोटा मेमोरी कैलकुलेशन

यह अनुमान लगाने का एक सरल तरीका है कि मॉडल को कितनी मेमोरी की आवश्यकता है: पैरामीटर की संख्या को प्रति पैरामीटर बाइट्स की संख्या से गुणा करें। 16-बिट (2-बाइट) परिशुद्धता पर, 7 बिलियन पैरामीटर वाले मॉडल को केवल वेट्स के लिए लगभग 14 जीबी मेमोरी की आवश्यकता होती है। 4-बिट क्वांटाइजेशन के साथ वही मॉडल लगभग 4-5 जीबी तक गिर जाता है, जो इसे कई मौजूदा लैपटॉप पर चलाने योग्य बनाता है।

इसके ऊपर अतिरिक्त मेमोरी आती है जो बातचीत की लंबाई (संदर्भ कैश) के साथ बढ़ती है, इसलिए अनुमान से ऊपर कुछ जगह छोड़ना बुद्धिमानी है। llama.cpp प्रोजेक्ट, जिसे स्थानीय रूप से मॉडल चलाने के लिए व्यापक रूप से उपयोग किया जाता है, और इसका GGUF फ़ाइल स्वरूप ग्राफिक्स कार्ड के बिना भी कंप्यूटर पर प्रोसेसर पर क्वांटाइज्ड मॉडल चलाना संभव बनाता है; हालांकि, गति हार्डवेयर के साथ काफी भिन्न होती है।

स्रोत और आगे पढ़ने के लिए

  1. Open Source Initiative (OSI), “The Open Source AI Definition 1.0” (2024).
  2. Meta AI, Llama लाइसेंस और स्वीकार्य उपयोग नीति पृष्ठ।
  3. Hugging Face, ओपन मॉडल हब और दस्तावेज़ीकरण।
  4. Ollama और LM Studio आधिकारिक दस्तावेज़ीकरण।
  5. Apache Software Foundation – Apache License 2.0
  6. Meta – Llama 3 Community License Agreement
  7. ggml-org – llama.cpp (GitHub) और GGUF दस्तावेज़ीकरण
साझा करें
YulaHub को फ़ॉलो करेंदिन की सबसे अहम ख़बरें सबसे पहले पाएँ।
RSS

एक टिप्पणी छोड़ें

आपका ईमेल पता प्रकाशित नहीं किया जाएगा। आवश्यक फ़ील्ड * से चिह्नित हैं