বিষয়বস্তুতে যান

বিশ্বকে আলোকিত করা জ্ঞান

এআই হ্যালুসিনেশন বা বিভ্রম কী? চ্যাটবট কেন মনগড়া তথ্য তৈরি করে এবং তা কীভাবে চিহ্নিত করবেন

এআই সহকারীরা মাঝেমধ্যে অস্তিত্বহীন উৎস, ভুল তারিখ বা উদ্ভাবিত উদ্ধৃতি দিয়ে থাকে। একে বলা হয় “হ্যালুসিনেশন” বা বিভ্রম। এটি কেন ঘটে, এর বাস্তব জীবনের উদাহরণ এবং বিভ্রান্তি এড়ানোর কিছু ব্যবহারিক উপায়।

এআই হ্যালুসিনেশন বা বিভ্রম কী? চ্যাটবট কেন মনগড়া তথ্য তৈরি করে এবং তা কীভাবে চিহ্নিত করবেন

এআই চ্যাটবটগুলো সেকেন্ডের মধ্যে চমৎকার এবং আত্মবিশ্বাসী উত্তর দিতে পারে। কিন্তু সেগুলোর কিছু উত্তরে এমন একটি বই থাকতে পারে যার কোনো অস্তিত্ব নেই, এমন একটি উদ্ধৃতি থাকতে পারে যা কেউ কখনো বলেনি, কিংবা থাকতে পারে ভুল কোনো তারিখ। যখন কোনো এআই এই ধরনের সাবলীল কিন্তু মিথ্যা তথ্য তৈরি করে, তখন তাকে “হ্যালুসিনেশন” বা বিভ্রম বলা হয়। এআই-কে একটি সহায়ক টুল হিসেবে ব্যবহার করার সময় যে কয়েকটি গুরুত্বপূর্ণ সীমাবদ্ধতা আমাদের বোঝা উচিত, এটি তার মধ্যে অন্যতম।

হ্যালুসিনেশন কেন ঘটে?

বিশাল পরিমাণ টেক্সট থেকে শেখা প্যাটার্নের ওপর ভিত্তি করে বৃহৎ ভাষা মডেলগুলো বাক্যের পরবর্তী সম্ভাব্য শব্দটি অনুমান করে। এগুলো কোনো ডাটাবেজ থেকে তথ্য খুঁজে আনে না এবং তারা যা বলছে তা স্বভাবগতভাবেই সত্য কি না তা জানে না। কোনো বিষয়ে যদি কোনো মডেলের কাছে পর্যাপ্ত সামঞ্জস্যপূর্ণ উপাত্ত না থাকে, তবে সেটি “আমি জানি না” না বলে এমন একটি উত্তর তৈরি করতে পারে যা দেখে মনে হবে সঠিক। এটিও মনে রাখা দরকার যে, একটি মডেলের প্রশিক্ষণ একটি নির্দিষ্ট তারিখে শেষ হয়, তাই এটি সাম্প্রতিক ঘটনাগুলো নাও জানতে পারে অথবা পুরানো তথ্যকে বর্তমানের বলে উপস্থাপন করতে পারে।

কোথায় এটি সবচেয়ে বেশি দেখা যায়?

  • উৎস এবং তথ্যসূত্র: বাস্তবসম্মত মনে হলেও অস্তিত্বহীন এমন নিবন্ধ, বই বা ওয়েব ঠিকানা।
  • উদ্ধৃতি: বিখ্যাত ব্যক্তিদের সাথে এমন কথা জুড়ে দেওয়া যা তারা কখনো বলেননি।
  • সংখ্যা এবং তারিখ: পরিসংখ্যান, শতকরা হার, জন্ম ও মৃত্যুর তারিখ।
  • কম পরিচিত বিষয়: স্থানীয় মানুষ, ছোট সংস্থা, নতুন পণ্য এবং বিশেষ ক্ষেত্র।
  • আইন, চিকিৎসা এবং অর্থায়ন: যে ক্ষেত্রগুলোতে ভুল তথ্যের মারাত্মক পরিণতি হতে পারে।

বাস্তব জীবনের একটি উদাহরণ

২০২৩ সালে মার্কিন যুক্তরাষ্ট্রে একটি মামলায় আইনজীবীরা তাদের আইনি নথিপত্রে চ্যাটবট দ্বারা তৈরি করা আদালতের কিছু রায়কে নজির হিসেবে উল্লেখ করেছিলেন, যে রায়গুলোর বাস্তবে কোনো অস্তিত্বই ছিল না। বিচারক দেখতে পান যে মামলাগুলো মনগড়া এবং আইনজীবীদের জরিমানা করা হয়। কোনো রকম যাচাই না করে দাপ্তরিক কাজে এআই-এর আউটপুট ব্যবহারের ঝুঁকির সবচেয়ে পরিচিত উদাহরণগুলোর একটি হয়ে ওঠে এই ঘটনা।

নিজেকে কীভাবে রক্ষা করবেন

  1. উৎস চান এবং তা যাচাই করুন: লিঙ্কে ক্লিক করুন এবং বাস্তবে বইটি বা নিবন্ধটি খুঁজে দেখুন।
  2. প্রাথমিক উৎস থেকে গুরুত্বপূর্ণ তথ্য যাচাই করুন: সরকারি সংস্থা, প্রকাশক বা বিশেষজ্ঞদের পাতার ওপর নির্ভর করুন।
  3. বর্তমান বিষয়ের জন্য সার্চ-ভিত্তিক টুল ব্যবহার করুন: যে সহকারীরা ওয়েব অনুসন্ধান করে এবং উৎস উল্লেখ করে তারা বর্তমান বিষয়ে বেশি নির্ভরযোগ্য, তবে তারাও ভুল করতে পারে।
  4. অনিশ্চয়তা সম্পর্কে জিজ্ঞাসা করুন: “আপনি কতটা নিশ্চিত, এবং কোন অংশগুলো নিয়ে বিতর্ক আছে?” এ ধরনের প্রশ্ন দুর্বল দিকগুলো প্রকাশ করতে পারে।
  5. একই প্রশ্ন ভিন্নভাবে করুন: উত্তরগুলো পরস্পরবিরোধী হলে সতর্ক হোন।
  6. স্বাস্থ্য, আইন এবং অর্থ সংক্রান্ত বিষয়ে বিশেষজ্ঞদের পরামর্শ নিন: এআই পটভূমি জানার জন্য উপযোগী হতে পারে, তবে এটি পেশাদার পরামর্শের বিকল্প নয়।

ডেভেলপাররা কী করছেন?

এআই কোম্পানিগুলো এমন প্রশিক্ষণ পদ্ধতি তৈরি করছে যা মডেলগুলোকে অনিশ্চিত হলে তা প্রকাশ করতে উৎসাহিত করে, নির্ভরযোগ্য নথিপত্রের ওপর উত্তরগুলোকে ভিত্তি করে তোলার জন্য “রিট্রিভাল-অগমেন্টেড জেনারেশন” (আরএজি) কৌশল ব্যবহার করছে এবং উদ্ধৃতি দেওয়ার ফিচার যুক্ত করছে। এই পদ্ধতিগুলো ভুল কমায় কিন্তু পুরোপুরি দূর করে না। তাই সবচেয়ে নিরাপদ দৃষ্টিভঙ্গি হলো এআই-কে ড্রাফটিং এবং ব্রেইনঝর্মিংয়ের অংশীদার হিসেবে গণ্য করা এবং চূড়ান্ত সিদ্ধান্ত যাচাইকৃত তথ্যের ওপর ছেড়ে দেওয়া।

সচরাচর জিজ্ঞাস্য প্রশ্নাবলী

হ্যালুসিনেশন কি কেবল টেক্সট-জেনারেটিং এআই-এ ঘটে?

না। ছবি তৈরি করার মডেলগুলোও অতিরিক্ত আঙুলসহ হাত বা অর্থহীন লেখার মতো বিশদ বিবরণ যুক্ত করতে পারে। অডিও এবং ভিডিও মডেলেও একই ধরনের ত্রুটি দেখা দিতে পারে।

উৎস এবং আরও পড়ার জন্য

  1. Mata v. Avianca, Inc., U.S. District Court for the Southern District of New York, sanctions order of 22 June 2023.
  2. NIST, “Artificial Intelligence Risk Management Framework: Generative AI Profile” (NIST AI 600-1), 2024.
  3. Ziwei Ji et al., “Survey of Hallucination in Natural Language Generation”, ACM Computing Surveys, 2023.
শেয়ার
YulaHub অনুসরণ করুনদিনের সবচেয়ে গুরুত্বপূর্ণ খবর সবার আগে পান।
RSS

একটি মন্তব্য করুন

আপনার ইমেইল ঠিকানা প্রকাশিত হবে না। প্রয়োজনীয় ক্ষেত্রগুলি * দিয়ে চিহ্নিত