सामग्री पर जाएँ

दुनिया को रोशन करने वाला ज्ञान

AI एजेंट्स क्या हैं? चैट से ऐसे सहायकों की ओर बदलाव जो कार्य करते हैं

AI अब केवल प्रश्नों के उत्तर नहीं देता: यह अपने दम पर वेब ब्राउज़ कर सकता है, फॉर्म भर सकता है, फ़ाइलें संपादित कर सकता है और कई चरणों वाले कार्य कर सकता है। एजेंट कैसे काम करते हैं, उनके उपयोग के उदाहरण, जोखिम और उनका सुरक्षित रूप से उपयोग करने के सिद्धांत।

AI एजेंट्स क्या हैं? चैट से ऐसे सहायकों की ओर बदलाव जो कार्य करते हैं

पहले AI चैट सहायक ऐसे उपकरण थे जो किसी प्रश्न का एक ही उत्तर देते थे। “एजेंट्स” कहलाने वाली प्रणालियों की नई पीढ़ी, जब उन्हें कोई लक्ष्य दिया जाता है, तो उस तक पहुँचने के लिए आवश्यक चरणों की योजना बना सकती है, वेब पर खोजना, फ़ाइलें पढ़ना और लिखना, कोड चलाना या किसी वेबसाइट पर नेविगेट करने जैसे उपकरणों का उपयोग कर सकती है, और परिणाम की जाँच कर सकती है, यदि आवश्यक हो तो पुनः प्रयास कर सकती है।

वे कैसे काम करते हैं?

एक एजेंट आमतौर पर एक लूप में काम करता है: यह कार्य को समझता है, एक योजना बनाता है, किसी टूल का उपयोग करता है (उदाहरण के लिए खोज चलाना या फ़ाइल खोलना), परिणाम का मूल्यांकन करता है और अगले चरण का निर्णय लेता है। यह लूप तब तक जारी रहता है जब तक कार्य पूरा नहीं हो जाता या उपयोगकर्ता की स्वीकृति की आवश्यकता नहीं होती। एक एजेंट क्या कर सकता है यह इस बात पर निर्भर करता है कि उसे किन उपकरणों और डेटा तक पहुँच दी गई है।

उपयोग के उदाहरण

  • शोध (Research): दर्जनों स्रोतों को स्कैन करना और संदर्भित रिपोर्ट तैयार करना।
  • कार्यालय का काम: ईमेल से जानकारी को तालिका में एकत्र करना, बैठकों का समय तय करना।
  • सॉफ़्टवेयर: कोडबेस में बग ढूँढना और ठीक करना, परीक्षण लिखना।
  • व्यक्तिगत कार्य: यात्रा विकल्पों की तुलना करना, फॉर्म भरना (भुगतान जैसे महत्वपूर्ण चरणों के लिए स्वीकृति के साथ)।

जोखिम

  • गलत कार्रवाई: एक एजेंट निर्देश को गलत समझ सकता है और अनचाहा ईमेल भेज सकता है या फ़ाइल हटा सकता है।
  • प्रॉम्प्ट इंजेक्शन: वेब पेज या दस्तावेज़ में छिपे दुर्भावनापूर्ण निर्देश एजेंट को भटकाने की कोशिश कर सकते हैं। यह एजेंटों के लिए सबसे अधिक बहस वाले सुरक्षा मुद्दों में से एक है।
  • अत्यधिक अनुमतियाँ: बैंक खातों या कंपनी प्रणालियों जैसे संवेदनशील क्षेत्रों तक व्यापक पहुँच से गंभीर नुकसान का जोखिम होता है।
  • जवाबदेही: एजेंट द्वारा की जाने वाली कार्रवाइयों के लिए अंततः उपयोगकर्ता या संगठन जिम्मेदार होता है।

सुरक्षित उपयोग के सिद्धांत

  1. एजेंट को कार्य के लिए आवश्यक न्यूनतम अनुमतियाँ ही दें।
  2. इसे पैसे ट्रांसफर करने, खरीदारी करने, ईमेल भेजने और हटाने जैसे अपरिवर्तनीय चरणों से पहले स्वीकृति माँगने के लिए सेट करें।
  3. एजेंट द्वारा की गई कार्रवाइयों के लॉग की समीक्षा करें।
  4. अज्ञात स्रोतों से दस्तावेज़ों और साइटों को संसाधित करने की अनुमति देते समय सावधान रहें।

AI एजेंट और क्लासिक ऑटोमेशन के बीच अंतर

कार्यस्थलों में वर्षों से उपयोग किए जाने वाले क्लासिक ऑटोमेशन टूल पूर्व-लिखे गए नियमों के अनुसार काम करते हैं, जैसे "यदि इस फ़ोल्डर में कोई इनवॉइस आती है, तो राशि को स्प्रेडशीट में लिखें।" जब वे नियमों के बाहर की स्थिति का सामना करते हैं, तो वे आमतौर पर रुक जाते हैं। इसके विपरीत, AI एजेंटों को प्राकृतिक भाषा में एक लक्ष्य प्राप्त होता है, वे स्वयं चरणों की योजना बनाते हैं और कुछ अप्रत्याशित होने पर एक अलग रास्ता आज़मा सकते हैं।

  • लचीलापन: एक एजेंट ऐसे दस्तावेज़ को समझने की कोशिश कर सकता है जिसका प्रारूप बदल गया है; नियम-आधारित टूल ऐसा नहीं कर सकता।
  • पूर्वानुमानितता: क्लासिक ऑटोमेशन हर बार एक ही परिणाम देता है; एजेंट का व्यवहार इनपुट के साथ बदल सकता है, और यह गलतियाँ कर सकता है।
  • निगरानी: यही कारण है कि हर कदम का रिकॉर्ड रखना और महत्वपूर्ण कार्यों के लिए मानवीय स्वीकृति की आवश्यकता होना एजेंटों के साथ और भी अधिक महत्वपूर्ण है।

एजेंट का उपयोग करने से पहले पूछने योग्य प्रश्न

सुरक्षा समुदाय OWASP बड़े भाषा मॉडल अनुप्रयोगों में सबसे महत्वपूर्ण जोखिमों की अपनी सूची में "अत्यधिक एजेंसी" को शामिल करता है: यदि किसी एजेंट को आवश्यकता से अधिक अनुमतियाँ दी जाती हैं, तो एक गलत समझा गया निर्देश या दुर्भावनापूर्ण सामग्री वास्तविक नुकसान पहुँचा सकती है।

इसीलिए एजेंट का उपयोग शुरू करने से पहले निम्नलिखित पूछना उपयोगी है: यह किन खातों और फ़ाइलों तक पहुँच सकता है? क्या पैसे भेजने, हटाने या ईमेल भेजने जैसे अपरिवर्तनीय कार्यों के लिए मेरी स्वीकृति की आवश्यकता है? क्या मैं इसके द्वारा उठाए गए हर कदम को बाद में देख सकता हूँ? अमेरिकी राष्ट्रीय मानक और प्रौद्योगिकी संस्थान (NIST) AI जोखिम प्रबंधन फ्रेमवर्क इसी तरह AI प्रणालियों के प्रभावों की निरंतर निगरानी और स्पष्ट रूप से परिभाषित जिम्मेदारियों की सिफारिश करता है।

AI टूल्स की सुविधाएँ, योजनाएँ और मूल्य अक्सर बदलते रहते हैं। वर्तमान जानकारी के लिए हमेशा टूल के आधिकारिक पेज की जाँच करें।

अक्सर पूछे जाने वाले प्रश्न

एजेंट और चैट सहायक में क्या अंतर है?

एक चैट सहायक मुख्य रूप से उत्तर देता है; एक एजेंट किसी लक्ष्य की दिशा में उपकरणों का उपयोग करके कार्रवाई करता है। चूंकि अब कई सहायकों में एजेंट सुविधाएँ शामिल हैं, इसलिए उनके बीच की रेखा तेजी से धुंधली हो रही है।

स्रोत और आगे की पठन सामग्री

  1. OWASP, “Top 10 for LLM Applications” (प्रॉम्प्ट इंजेक्शन और अत्यधिक एजेंसी)।
  2. NIST, “AI Risk Management Framework: Generative AI Profile” (NIST AI 600-1), 2024.
  3. Shunyu Yao et al., “ReAct: Synergizing Reasoning and Acting in Language Models”, ICLR, 2023.
  4. OWASP – Top 10 for LLM Applications 2025 (Excessive Agency)
  5. NIST – AI Risk Management Framework (AI RMF 1.0), 2023
साझा करें
YulaHub को फ़ॉलो करेंदिन की सबसे अहम ख़बरें सबसे पहले पाएँ।
RSS

एक टिप्पणी छोड़ें

आपका ईमेल पता प्रकाशित नहीं किया जाएगा। आवश्यक फ़ील्ड * से चिह्नित हैं