বিষয়বস্তুতে যান

বিশ্বকে আলোকিত করা জ্ঞান

ওপেন-ওয়েট এআই মডেল কী? লামা (Llama), মিস্ট্রাল (Mistral), কিউওয়েন (Qwen), ডিপসিক (DeepSeek) এবং জেমা (Gemma) ব্যবহার করে আপনার নিজের কম্পিউটারে এআই চালানো

কিছু এআই মডেল শুধুমাত্র কোম্পানির সার্ভারে চলে, আবার কিছু মডেলের “ওয়েট” বা প্যারামিটারগুলো সবার জন্য উন্মুক্ত থাকে এবং সেগুলো আপনার নিজের কম্পিউটারে চালানো সম্ভব। ওপেন-ওয়েট এবং ওপেন-সোর্স মডেলের পার্থক্য, জনপ্রিয় মডেল পরিবার, স্থানীয়ভাবে সেগুলো চালানোর টুল, হার্ডওয়্যারের প্রয়োজনীয়তা, সুবিধা এবং সীমাবদ্ধতাগুলো এখানে আলোচনা করা হলো।

ওপেন-ওয়েট এআই মডেল কী? লামা (Llama), মিস্ট্রাল (Mistral), কিউওয়েন (Qwen), ডিপসিক (DeepSeek) এবং জেমা (Gemma) ব্যবহার করে আপনার নিজের কম্পিউটারে এআই চালানো

আপনি যখন চ্যাটজিপিটি (ChatGPT), জেমিনাই (Gemini) বা ক্লড (Claude)-এর মতো এআই অ্যাসিস্ট্যান্ট ব্যবহার করেন, তখন আপনি যা টাইপ করেন তা কোম্পানির সার্ভারে পাঠানো হয় এবং সেখানেই উত্তর তৈরি হয়। এগুলোর পাশাপাশি “ওপেন-ওয়েট” মডেলগুলো দ্রুত জনপ্রিয় হচ্ছে, যেগুলোর ট্রেনিং ফাইল যে কেউ ডাউনলোড করে নিজের কম্পিউটার বা সার্ভারে চালাতে পারে।

“ওয়েট” (Weights) বলতে কী বোঝায়?

একটি ল্যাঙ্গুয়েজ মডেল ট্রেনিংয়ের সময় টেক্সট থেকে যা শেখে, তা বিলিয়ন বিলিয়ন গাণিতিক মান (প্যারামিটার বা “ওয়েট”) হিসেবে জমা রাখে। মডেল ফাইলটি মূলত এই ওয়েটগুলো নিয়েই গঠিত। ওপেন-ওয়েট মডেলের ক্ষেত্রে এই ফাইলটি উন্মুক্ত থাকে, তাই ইন্টারনেট সংযোগ বা কোম্পানির সার্ভার ছাড়াই মডেলটি চালানো সম্ভব।

ওপেন-ওয়েট কি ওপেন-সোর্স?

সবসময় নয়। ২০২৪ সালে ওপেন সোর্স ইনিশিয়েটিভ (OSI) কর্তৃক প্রকাশিত “ওপেন সোর্স এআই ডেফিনিশন” অনুযায়ী, কোনো মডেলকে ওপেন সোর্স হিসেবে গণ্য হতে হলে সেটির ট্রেনিং কোড এবং ট্রেনিং ডেটা সম্পর্কে পর্যাপ্ত তথ্য শেয়ার করতে হবে এবং ব্যবহারের ওপর কোনো বিধিনিষেধ থাকা যাবে না। অনেক জনপ্রিয় মডেল শুধুমাত্র তাদের ওয়েট শেয়ার করে এবং তাদের নিজস্ব লাইসেন্স শর্ত থাকে। উদাহরণস্বরূপ, নির্দিষ্ট সংখ্যক ব্যবহারকারীর বেশি কোম্পানিগুলোর জন্য অতিরিক্ত অনুমতির প্রয়োজন হতে পারে বা নির্দিষ্ট ব্যবহারের ওপর বিধিনিষেধ থাকতে পারে। তাই বাণিজ্যিকভাবে ব্যবহারের আগে মডেলের লাইসেন্সটি পড়ে নিন।

পরিচিত মডেল পরিবার

  • লামা (Llama): মেটা (Meta) দ্বারা তৈরি, ওপেন-ওয়েট মডেল জনপ্রিয় করার ক্ষেত্রে অগ্রগামী।
  • মিস্ট্রাল (Mistral): ফরাসি কোম্পানি মিস্ট্রাল এআই-এর মডেল।
  • কিউওয়েন (Qwen): আলিবাবার বহুভাষিক মডেল পরিবার।
  • ডিপসিক (DeepSeek): চীনা কোম্পানি ডিপসিকের মডেল, যা বিশেষ করে যুক্তি এবং কোডিংয়ের জন্য পরিচিত।
  • জেমা (Gemma): গুগলের তুলনামূলক ছোট এবং দক্ষ ওপেন মডেল।

এই পরিবারগুলো প্রায়ই নতুন সংস্করণ প্রকাশ করে; বর্তমান অবস্থা এবং লাইসেন্সের জন্য সর্বদা তাদের অফিসিয়াল পেজগুলো দেখুন।

কম্পিউটারে কীভাবে চালাবেন

ওলামা (Ollama), এলএম স্টুডিও (LM Studio) এবং লামা.সিপিপি (llama.cpp)-এর মতো ফ্রি টুলগুলো আপনাকে কয়েক ক্লিকে বা একটি কমান্ডের মাধ্যমে ওপেন মডেল ডাউনলোড এবং চালানোর সুযোগ দেয়। মডেলগুলো সাধারণত “কোয়ান্টাইজেশন” নামক পদ্ধতিতে সংকুচিত করা থাকে, যাতে সেগুলোর মেমরি কম লাগে। ছোট মডেলগুলো সাধারণ ল্যাপটপেই চলতে পারে, তবে বড় মডেলগুলোর জন্য প্রচুর মেমরি এবং শক্তিশালী গ্রাফিক্স কার্ড প্রয়োজন। সাধারণ নিয়ম হলো, মডেল যত বড়, সেটি তত বেশি সক্ষম এবং তার জন্য তত বেশি হার্ডওয়্যার প্রয়োজন।

সুবিধা

  • গোপনীয়তা: ডেটা কখনোই আপনার ডিভাইস ছেড়ে যায় না, যা সংবেদনশীল নথিপত্র নিয়ে কাজ করার সময় একটি বড় সুবিধা।
  • অফলাইন ব্যবহার: একবার ডাউনলোড হয়ে গেলে, ইন্টারনেট সংযোগ ছাড়াই মডেলটি চালানো যায়।
  • কাস্টমাইজেশন: প্রতিষ্ঠানগুলো নির্দিষ্ট কাজের জন্য তাদের নিজস্ব ডেটার ওপর মডেলটিকে ফাইন-টিউন করতে পারে।
  • খরচ নিয়ন্ত্রণ: ভারী ব্যবহারের ক্ষেত্রে, নিজস্ব হার্ডওয়্যারে চালানো কিছু প্রতিষ্ঠানের জন্য সাশ্রয়ী হতে পারে।

সীমাবদ্ধতা এবং ঝুঁকি

  • এগুলোর জন্য হার্ডওয়্যার এবং কিছুটা সেটআপ জ্ঞান প্রয়োজন।
  • ছোট মডেলগুলো সবচেয়ে বড় ক্লোজড মডেলগুলোর তুলনায় বেশি ভুল করতে পারে এবং হ্যালুসিনেশন (ভুল তথ্য তৈরি) করতে পারে।
  • যেহেতু নিরাপত্তা ব্যবস্থা ব্যবহারকারীরা সহজেই পরিবর্তন করতে পারে, তাই অপব্যবহার নিয়ে বিতর্ক অব্যাহত রয়েছে।
  • শুধুমাত্র বিশ্বস্ত উৎস থেকে মডেল ফাইল ডাউনলোড করুন।

লাইসেন্স: “ওপেন” মডেলের ক্ষেত্রে যা খেয়াল রাখতে হবে

মডেলের ওয়েট ডাউনলোড করতে পারা মানেই এই নয় যে আপনি যেকোনো উদ্দেশ্যে এটি অবাধে ব্যবহার করতে পারবেন। লাইসেন্স টেক্সটই মূলত সিদ্ধান্ত নেয় এবং বিভিন্ন পরিবারের মধ্যে গুরুত্বপূর্ণ পার্থক্য রয়েছে:

  • পারমিসিভ লাইসেন্স: মিস্ট্রাল ৭বি (Mistral 7B)-এর মতো কিছু মডেল অ্যাপাচি ২.০ (Apache 2.0) লাইসেন্সের অধীনে এবং ডিপসিক-আর১ (DeepSeek-R1) এমআইটি (MIT) লাইসেন্সের অধীনে প্রকাশিত হয়েছে। এই লাইসেন্সগুলো সাধারণত বাণিজ্যিক ব্যবহার এবং পরিবর্তনের অনুমতি দেয়।
  • কমিউনিটি লাইসেন্স: মেটার লামা মডেলগুলো তাদের নিজস্ব কমিউনিটি লাইসেন্সের অধীনে বিতরণ করা হয়; উদাহরণস্বরূপ, মাসে ৭০ কোটির বেশি সক্রিয় ব্যবহারকারী থাকা কোম্পানিগুলোকে আলাদা লাইসেন্স নিতে হবে এবং গ্রহণযোগ্য ব্যবহারের নীতি মেনে চলতে হবে।
  • ব্যবহারের শর্তাবলী: গুগলের জেমা মডেলগুলো আলাদা ব্যবহারের শর্তাবলী এবং নিষিদ্ধ ব্যবহারের তালিকার অধীনে থাকে।
  • একই পরিবারের মধ্যে ভিন্ন লাইসেন্স: কিউওয়েনের মতো কিছু পরিবারে, মডেলের আকারের সাথে লাইসেন্স পরিবর্তিত হতে পারে, তাই প্রতিটি রিলিজের পেজ আলাদাভাবে পড়তে হবে।

আপনি যদি কোনো পণ্য বা সেবায় মডেলটি ব্যবহার করার কথা ভাবেন, তবে আপনার ডাউনলোড করা নির্দিষ্ট সংস্করণের লাইসেন্স এবং ব্যবহারের নীতি পরীক্ষা করুন; সন্দেহ থাকলে আইনি পরামর্শ নিন।

কী ধরনের হার্ডওয়্যার যথেষ্ট? মেমরির একটি মোটামুটি হিসাব

মডেলের কত মেমরি প্রয়োজন তা অনুমান করার একটি সহজ উপায় আছে: প্যারামিটারের সংখ্যাকে প্রতি প্যারামিটারের বাইট সংখ্যা দিয়ে গুণ করুন। ১৬-বিট (২-বাইট) প্রিসিশনে, ৭ বিলিয়ন প্যারামিটারের একটি মডেলের শুধুমাত্র ওয়েটের জন্য প্রায় ১৪ জিবি মেমরি প্রয়োজন। ৪-বিট কোয়ান্টাইজেশনের সাথে একই মডেলের আকার প্রায় ৪-৫ জিবিতে নেমে আসে, যা অনেক বর্তমান ল্যাপটপেই চালানো সম্ভব।

এর ওপর কথোপকথনের দৈর্ঘ্যের সাথে সাথে অতিরিক্ত মেমরি প্রয়োজন হয় (কনটেক্সট ক্যাশে), তাই অনুমানের চেয়ে কিছুটা বেশি মেমরি রাখা বুদ্ধিমানের কাজ। স্থানীয়ভাবে মডেল চালানোর জন্য বহুল ব্যবহৃত লামা.সিপিপি (llama.cpp) প্রজেক্ট এবং এর জিজিইউএফ (GGUF) ফাইল ফরম্যাট গ্রাফিক্স কার্ড ছাড়াও প্রসেসরে কোয়ান্টাইজড মডেল চালানো সম্ভব করে; তবে গতি হার্ডওয়্যারের ওপর নির্ভর করে উল্লেখযোগ্যভাবে পরিবর্তিত হয়।

সূত্র এবং আরও পড়ুন

  1. ওপেন সোর্স ইনিশিয়েটিভ (OSI), “দ্য ওপেন সোর্স এআই ডেফিনিশন ১.০” (২০২৪)।
  2. মেটা এআই, লামা লাইসেন্স এবং গ্রহণযোগ্য ব্যবহারের নীতি পেজ।
  3. হাগিং ফেস (Hugging Face), ওপেন মডেল হাব এবং ডকুমেন্টেশন।
  4. ওলামা এবং এলএম স্টুডিও অফিসিয়াল ডকুমেন্টেশন।
  5. অ্যাপাচি সফটওয়্যার ফাউন্ডেশন – অ্যাপাচি লাইসেন্স ২.০
  6. মেটা – লামা ৩ কমিউনিটি লাইসেন্স এগ্রিমেন্ট
  7. জিজিএমএল-অর্গ – লামা.সিপিপি (গিটহাব) এবং জিজিইউএফ ডকুমেন্টেশন
শেয়ার
YulaHub অনুসরণ করুনদিনের সবচেয়ে গুরুত্বপূর্ণ খবর সবার আগে পান।
RSS

একটি মন্তব্য করুন

আপনার ইমেইল ঠিকানা প্রকাশিত হবে না। প্রয়োজনীয় ক্ষেত্রগুলি * দিয়ে চিহ্নিত