مواد پر جائیں

دنیا کو روشن کرنے والا علم

AI ہالوسینیشن (مصنوعی ذہانت کی تخیلاتی غلطی) کیا ہے؟ چیٹ بوٹس باتیں کیوں گڑھتے ہیں اور اس کی شناخت کیسے کی جائے

AI اسسٹنٹ بعض اوقات ایسے ذرائع پیش کرتے ہیں جو وجود نہیں رکھتے، غلط تاریخیں یا خود ساختہ اقتباسات دیتے ہیں۔ اسے "ہالوسینیشن" کہا جاتا ہے۔ یہ کیوں ہوتا ہے، حقیقی زندگی کی مثالیں اور فریب سے بچنے کے عملی طریقےـ۔

AI ہالوسینیشن (مصنوعی ذہانت کی تخیلاتی غلطی) کیا ہے؟ چیٹ بوٹس باتیں کیوں گڑھتے ہیں اور اس کی شناخت کیسے کی جائے

AI چیٹ بوٹس سیکنڈوں میں نفاست اور اعتماد کے ساتھ جوابات دے سکتے ہیں۔ لیکن ان میں سے کچھ جوابات میں ایسی کتاب شامل ہو سکتی ہے جو وجود نہیں رکھتی، کوئی ایسا اقتباس جو کبھی نہیں کہا گیا یا غلط تاریخ ہو سکتی ہے۔ جب AI اس طرح کی روانی لیکن غلط معلومات فراہم کرتا ہے، تو اسے "ہالوسینیشن" کہا جاتا ہے۔ جب آپ AI کو ایک مددگار ٹول کے طور پر استعمال کرتے ہیں تو یہ سمجھنے کے لیے سب سے اہم حدود میں سے ایک ہے۔

ہالوسینیشن کیوں ہوتا ہے؟

بڑے زبان کے ماڈلز بہت زیادہ متن سے سیکھے گئے نمونوں کی بنیاد پر جملے میں اگلے سب سے زیادہ ممکنہ لفظ کی پیشگوئی کرتے ہیں۔ وہ ڈیٹا بیس میں چیزیں تلاش نہیں کرتے اور فطری طور پر نہیں جانتے کہ وہ جو کہتے ہیں وہ سچ ہے یا نہیں۔ اگر کسی ماڈل نے کسی موضوع پر کافی مستقل ڈیٹا نہیں دیکھا ہے، تو وہ "میں نہیں جانتا" کہنے کے بجائے ایسا جواب دے سکتا ہے جو درست معلوم ہو۔ یہ بھی یاد رکھنے کے قابل ہے کہ ماڈل کی تربیت ایک خاص تاریخ پر ختم ہوتی ہے، اس لیے ہو سکتا ہے اسے حالیہ واقعات کا علم نہ ہو یا وہ پرانی معلومات کو موجودہ کے طور پر پیش کرے۔

یہ کہاں سب سے زیادہ عام ہے؟

  • ذرائع اور حوالے: حقیقت پسندانہ لیکن غیر موجود مضامین، کتابیں یا ویب پتے۔
  • اقتباسات: مشہور شخصیات سے منسوب وہ الفاظ جو انہوں نے کبھی نہیں کہے۔
  • اعداد و شمار اور تاریخیں: شماریات، فیصد، پیدائش اور موت کی تاریخیں۔
  • کم معروف موضوعات: مقامی لوگ، چھوٹی تنظیمیں، نئی مصنوعات اور مخصوص شعبے۔
  • قانون، طب اور فنانس: ایسے شعبے جہاں غلط معلومات کے سنگین نتائج ہو سکتے ہیں۔

حقیقت زندگی کی ایک مثال

امریکہ میں 2023 کے ایک مقدمے میں، وکلاء نے اپنی درخواست میں چیٹ بوٹس کے ذریعے تیار کردہ عدالتی فیصلوں کو نظیر کے طور پر پیش کیا، ایسے فیصلے جو حقیقت میں وجود ہی نہیں رکھتے تھے۔ جج نے پایا کہ مقدمات خود ساختہ تھے اور وکلاء پر جرمانہ عائد کیا گیا۔ یہ واقعہ چیک کیے بغیر سرکاری کام میں AI آؤٹ پٹ کے استعمال کے خطرات کی سب سے مشہور مثالوں میں سے ایک بن گیا۔

اپنا بچاؤ کیسے کریں

  1. ذرائع پوچھیں اور ان کی جانچ کریں: لنک پر کلک کریں اور حقیقت میں کتاب یا مضمون تلاش کریں۔
  2. بنیادی ماخذ پر اہم معلومات کی تصدیق کریں: سرکاری اداروں، پبلشرز یا ماہرین کے صفحات پر بھروسہ کریں۔
  3. حالیہ موضوعات کے لیے سرچ پر مبنی ٹولز استعمال کریں: وہ اسسٹنٹ جو ویب تلاش کرتے ہیں اور ذرائع کا حوالہ دیتے ہیں حالیہ موضوعات پر زیادہ قابل اعتماد ہوتے ہیں، لیکن وہ بھی غلطیاں کر سکتے ہیں۔
  4. غیر یقینی صورتحال کے بارے میں پوچھیں: "آپ کو کتنی یقین دہانی ہے، اور کون سے حصے متنازعہ ہیں؟" جیسے سوالات کمزور مقامات کو ظاہر کر سکتے ہیں۔
  5. ایک ہی سوال مختلف طریقے سے پوچھیں: اگر جوابات ایک دوسرے سے متصادم ہوں تو محتاط رہیں۔
  6. صحت، قانون اور رقم پر ماہرین سے مشورہ کریں: AI پس منظر کے لیے مفید ہو سکتا ہے، لیکن یہ پیشہ ورانہ مشورے کا متبادل نہیں ہے۔

ڈویلپرز کیا کر رہے ہیں؟

AI کمپنیاں ایسے تربیتی طریقے تیار کر رہی ہیں جو ماڈلز کی حوصلہ افزائی کرتے ہیں کہ وہ بتائیں جب وہ یقین نہیں رکھتے، "ریٹریول اگمنٹڈ جنریشن" (RAG) کی تکنیکیں جو قابل اعتماد دستاویزات میں جوابات کو بنیاد بناتی ہیں، اور حوالے کی خصوصیات۔ یہ طریقے غلطیوں کو کم کرتے ہیں لیکن انہیں ختم نہیں کرتے۔ اس لیے سب سے محفوظ طریقہ یہ ہے کہ AI کو ایک مسودہ تیار کرنے اور دماغی گھمسان کا ساتھی سمجھا جائے اور حتمی فیصلہ تصدیق شدہ معلومات پر چھوڑ دیا جائے۔

اکثر پوچھے گئے سوالات

کیا ہالوسینیشن صرف ٹیکسٹ جنریٹنگ AI میں ہوتا ہے؟

نہیںـ۔ تصویر بنانے والے ماڈلز بھی ایسی تفصیلات شامل کر سکتے ہیں جو وہاں نہیں ہیں، جیسے اضافی انگلیوں والے ہاتھ یا بے معنی متنـ۔ اسی طرح کی غلطیاں آڈیو اور ویڈیو ماڈلز میں بھی ظاہر ہو سکتی ہیں۔

ذرائع اور مزید پڑھنے کے لیے

  1. Mata v. Avianca, Inc., U.S. District Court for the Southern District of New York, sanctions order of 22 June 2023.
  2. NIST, “Artificial Intelligence Risk Management Framework: Generative AI Profile” (NIST AI 600-1), 2024.
  3. Ziwei Ji et al., “Survey of Hallucination in Natural Language Generation”, ACM Computing Surveys, 2023.
شیئر کریں
YulaHub کو فالو کریںدن کی اہم ترین خبریں سب سے پہلے حاصل کریں۔
RSS

Leave a comment

Your email address will not be published. Required fields are marked *