सामग्री पर जाएँ

दुनिया को रोशन करने वाला ज्ञान

AI ह्युचिनेशन (भ्रम) क्या है? चैटबॉट्स क्यों मनगढ़ंत बातें बनाते हैं और इसका पता कैसे लगाएं

AI सहायक कभी-कभी ऐसे स्रोत उत्पन्न करते हैं जो मौजूद नहीं होते, गलत तारीखें या मनगढ़ंत उद्धरण देते हैं। इसे “ह्युचिनेशन” (भ्रम) कहा जाता है। जानिए ऐसा क्यों होता है, वास्तविक जीवन के उदाहरण और गुमराह होने से बचने के लिए व्यावहारिक जांच।

AI ह्युचिनेशन (भ्रम) क्या है? चैटबॉट्स क्यों मनगढ़ंत बातें बनाते हैं और इसका पता कैसे लगाएं

AI चैटबॉट्स कुछ ही सेकंड में स्पष्ट, आत्मविश्वासी उत्तर दे सकते हैं। लेकिन उन उत्तरों में कोई ऐसी पुस्तक हो सकती है जो मौजूद नहीं है, कोई ऐसा उद्धरण हो सकता है जो कभी नहीं कहा गया था या कोई गलत तारीख हो सकती है। जब कोई AI इस तरह की धाराप्रवाह लेकिन गलत जानकारी उत्पन्न करता है, तो इसे “ह्युचिनेशन” (भ्रम) कहा जाता है। सहायक टूल के रूप में AI का उपयोग करते समय समझने के लिए यह सबसे महत्वपूर्ण सीमाओं में से एक है।

ह्युचिनेशन क्यों होता है?

लार्ज लैंग्वेज मॉडल भारी मात्रा में पाठ से सीखे गए पैटर्न के आधार पर किसी वाक्य में अगले सबसे संभावित शब्द की भविष्यवाणी करते हैं। वे किसी डेटाबेस में चीज़ों को नहीं देखते हैं और स्वाभाविक रूप से यह नहीं जानते हैं कि वे जो कहते हैं वह सच है या नहीं। यदि किसी मॉडल ने किसी विषय पर पर्याप्त सुसंगत डेटा नहीं देखा है, तो यह “मुझे नहीं पता” कहने के बजाय ऐसा उत्तर दे सकता है जो सही लगता है। यह भी याद रखनावर्थ है कि किसी मॉडल का प्रशिक्षण एक निश्चित तारीख को समाप्त होता है, इसलिए हो सकता है कि वह हाल की घटनाओं को न जानता हो या पुरानी जानकारी को वर्तमान के रूप में प्रस्तुत कर सकता है।

यह सबसे आम कहाँ है?

  • स्रोत और संदर्भ: यथार्थवादी दिखने वाले लेकिन गैर-मौजूद लेख, पुस्तकें या वेब पते।
  • उद्धरण: प्रसिद्ध लोगों के कहे गए शब्द जो उन्होंने कभी नहीं कहे थे।
  • संख्याएँ और तिथियाँ: आँकड़े, प्रतिशत, जन्म और मृत्यु की तिथियाँ।
  • कम ज्ञात विषय: स्थानीय लोग, छोटे संगठन, नए उत्पाद और विशिष्ट क्षेत्र।
  • कानून, चिकित्सा और वित्त: ऐसे क्षेत्र जहाँ गलत जानकारी के गंभीर परिणाम हो सकते हैं।

वास्तविक जीवन का एक उदाहरण

संयुक्त राज्य अमेरिका में 2023 के एक मामले में, वकीलों ने अपनी अर्जी में मिसाल के तौर पर चैटबॉट द्वारा उत्पन्न अदालत के फैसलों का हवाला दिया, ऐसे फैसले जो असल में मौजूद ही नहीं थे। जज ने पाया कि मामले मनगढ़ंत थे और वकीलों पर जुर्माना लगाया गया। यह एपिसोड बिना जांच किए आधिकारिक काम में AI आउटपुट का उपयोग करने के जोखिमों के सबसे प्रसिद्ध उदाहरणों में से एक बन गया।

खुद को कैसे बचाएं

  1. स्रोतों के लिए पूछें और उनकी जाँच करें: लिंक पर क्लिक करें और वास्तव में पुस्तक या लेख देखें।
  2. प्राथमिक स्रोत पर महत्वपूर्ण जानकारी सत्यापित करें: आधिकारिक निकायों, प्रकाशकों या विशेषज्ञों के पृष्ठों पर भरोसा करें।
  3. वर्तमान विषयों के लिए खोज-आधारित टूल का उपयोग करें: जो सहायक वेब पर खोज करते हैं और स्रोतों का हवाला देते हैं, वे वर्तमान विषयों पर अधिक विश्वसनीय होते हैं, लेकिन वे गलतियाँ भी कर सकते हैं।
  4. अनिश्चितता के बारे में पूछें: “आप कितने निश्चित हैं, और कौन से हिस्से विवादित हैं?” जैसे प्रश्न कमजोर बिंदुओं को प्रकट कर सकते हैं।
  5. वही सवाल अलग तरीके से पूछें: यदि उत्तर एक दूसरे का विरोध करते हैं तो सावधान रहें।
  6. स्वास्थ्य, कानून और धन पर विशेषज्ञों से परामर्श करें: AI पृष्ठभूमि के लिए उपयोगी हो सकता है, लेकिन यह पेशेवर सलाह की जगह नहीं लेता है।

ड डेवलपर्स क्या कर रहे हैं?

AI कंपनियाँ ऐसे प्रशिक्षण तरीकों विकसित कर रही हैं जो मॉडल को यह कहने के लिए प्रोत्साहित करते हैं कि जब वे निश्चित नहीं हैं, तो “रिट्रीवल-अगmented जनरेशन” (RAG) तकनीक जो विश्वसनीय दस्तावेजों में उत्तरों को आधार बनाती है, और उद्धरण सुविधाएँ। ये तरीके त्रुटियों को कम करते हैं लेकिन उन्हें खत्म नहीं करते हैं। इसलिए सबसे सुरक्षित दृष्टिकोण AI को ड्राफ्टिंग और ब्रेनस्टॉर्मिंग पार्टनर के रूप में मानना ​​है और अंतिम निर्णय सत्यापित जानकारी पर छोड़ना है।

अक्सर पूछे जाने वाले प्रश्न

क्या ह्युचिनेशन केवल टेक्स्ट-उत्पादक AI में होता है?

नहीं। छवि-उत्पादक मॉडल ऐसे विवरण भी जोड़ सकते हैं जो वहाँ नहीं हैं, जैसे अतिरिक्त उंगलियों वाले हाथ या अर्थहीन पाठ। इसी तरह की त्रुटियाँ ऑडियो और वीडियो मॉडल में भी दिखाई दे सकती हैं।

स्रोत और आगे की पठन

  1. Mata v. Avianca, Inc., U.S. District Court for the Southern District of New York, sanctions order of 22 June 2023.
  2. NIST, “Artificial Intelligence Risk Management Framework: Generative AI Profile” (NIST AI 600-1), 2024.
  3. Ziwei Ji et al., “Survey of Hallucination in Natural Language Generation”, ACM Computing Surveys, 2023.
साझा करें
YulaHub को फ़ॉलो करेंदिन की सबसे अहम ख़बरें सबसे पहले पाएँ।
RSS

एक टिप्पणी छोड़ें

आपका ईमेल पता प्रकाशित नहीं किया जाएगा। आवश्यक फ़ील्ड * से चिह्नित हैं