پہلے AI چیٹ اسسٹنٹس ایسے ٹولز تھے جو کسی سوال کا ایک جواب تیار کرتے تھے۔ سسٹمز کی نئی نسل جسے "ایجنٹس" کہا جاتا ہے، جب انہیں کوئی ہدف دیا جاتا ہے، تو وہ اس تک پہنچنے کے لیے درکار اقدامات کی منصوبہ بندی کر سکتے ہیں، ویب سرچ کرنے، فائلیں پڑھنے اور لکھنے، کوڈ چلانے یا ویب سائٹ نیویگیٹ کرنے جیسے ٹولز کا استعمال کر سکتے ہیں، اور نتائج کی جانچ کر کے ضرورت پڑنے پر دوبارہ کوشش کر سکتے ہیں۔
وہ کیسے کام کرتے ہیں؟
ایک ایجنٹ عام طور پر ایک لوپ (loop) میں کام کرتا ہے: یہ کام کو سمجھتا ہے، منصوبہ بناتا ہے، ایک ٹول استعمال کرتا ہے (مثال کے طور پر سرچ چلانا یا فائل کھولنا)، نتائج کا جائزہ لیتا ہے اور اگلے قدم کا فیصلہ کرتا ہے۔ یہ لوپ تب تک جاری رہتا ہے جب تک کام مکمل نہ ہو جائے یا صارف کی منظوری کی ضرورت نہ پڑے۔ ایک ایجنٹ کیا کر سکتا ہے اس کا انحصار اس بات پر ہے کہ اسے کن ٹولز اور ڈیٹا تک رسائی دی گئی ہے۔
استعمال کی مثالیں
- تحقیق: درجنوں ذرائع کو اسکین کرنا اور حوالہ جات کے ساتھ رپورٹ تیار کرنا۔
- دفتری کام: ای میلز سے معلومات اکٹھا کر کے ٹیبل میں ڈالنا، میٹنگز کا شیڈول بنانا۔
- سافٹ ویئر: کوڈ بیس میں بگ (bug) تلاش کرنا اور اسے ٹھیک کرنا، ٹیسٹ لکھنا۔
- ذاتی کام: سفری آپشنز کا موازنہ کرنا، فارم پُر کرنا (ادائیگی جیسے اہم اقدامات کے لیے منظوری کے ساتھ)۔
خطرات
- غلط اقدامات: ایک ایجنٹ ہدایت کو غلط سمجھ سکتا ہے اور کوئی ناپسندیدہ ای میل بھیج سکتا ہے یا فائل ڈیلیٹ کر سکتا ہے۔
- پرامپٹ انجیکشن: ویب پیج یا دستاویز میں چھپی ہوئی نقصان دہ ہدایات ایجنٹ کو گمراہ کرنے کی کوشش کر سکتی ہیں۔ یہ ایجنٹس کے لیے سب سے زیادہ زیر بحث سیکیورٹی مسائل میں سے ایک ہے۔
- حد سے زیادہ اجازتیں: بینک اکاؤنٹس یا کمپنی سسٹمز جیسے حساس شعبوں تک وسیع رسائی سنگین نقصان کا خطرہ پیدا کرتی ہے۔
- جوابدہی: ایجنٹ جو اقدامات کرتا ہے اس کے لیے بالآخر صارف یا ادارہ ذمہ دار ہوتا ہے۔
محفوظ استعمال کے اصول
- ایجنٹ کو صرف کام کے لیے درکار کم از کم اجازتیں دیں۔
- اسے اس طرح سیٹ کریں کہ وہ رقم کی منتقلی، خریداری، ای میل بھیجنے اور ڈیلیٹ کرنے جیسے ناقابل واپسی اقدامات سے پہلے منظوری مانگے۔
- ایجنٹ کے کیے گئے اقدامات کے لاگ (log) کا جائزہ لیں۔
- نامعلوم ذرائع سے دستاویزات اور سائٹس کو پروسیس کرنے کے لیے ایجنٹ کو استعمال کرتے وقت محتاط رہیں۔
AI ایجنٹ اور کلاسک آٹومیشن کے درمیان فرق
کام کی جگہوں پر برسوں سے استعمال ہونے والے کلاسک آٹومیشن ٹولز پہلے سے لکھے گئے اصولوں کے مطابق کام کرتے ہیں، جیسے "اگر اس فولڈر میں انوائس آئے تو رقم کو اسپریڈشیٹ میں لکھ دیں۔" جب وہ اصولوں سے باہر کسی صورتحال کا سامنا کرتے ہیں، تو وہ عام طور پر رک جاتے ہیں۔ اس کے برعکس، AI ایجنٹس قدرتی زبان میں ہدف حاصل کرتے ہیں، خود اقدامات کی منصوبہ بندی کرتے ہیں اور جب کچھ غیر متوقع ہوتا ہے تو وہ مختلف راستہ آزما سکتے ہیں۔
- لچک: ایک ایجنٹ ایسی دستاویز کو سمجھنے کی کوشش کر سکتا ہے جس کا فارمیٹ تبدیل ہو گیا ہو؛ اصول پر مبنی ٹول ایسا نہیں کر سکتا۔
- پیش گوئی: کلاسک آٹومیشن ہر بار ایک جیسا نتیجہ دیتی ہے؛ ایجنٹ کا رویہ ان پٹ کے ساتھ بدل سکتا ہے، اور یہ غلطیاں کر سکتا ہے۔
- نگرانی: یہی وجہ ہے کہ ہر قدم کا ریکارڈ رکھنا اور اہم اقدامات کے لیے انسانی منظوری کی ضرورت ایجنٹس کے ساتھ اور بھی زیادہ اہمیت رکھتی ہے۔
ایجنٹ استعمال کرنے سے پہلے پوچھنے کے لیے سوالات
سیکیورٹی کمیونٹی OWASP نے بڑے لینگویج ماڈل ایپلی کیشنز میں سب سے اہم خطرات کی فہرست میں "حد سے زیادہ ایجنسی" (excessive agency) کو شامل کیا ہے: اگر کسی ایجنٹ کو ضرورت سے زیادہ اجازتیں دی جائیں، تو غلط سمجھی گئی ہدایت یا نقصان دہ مواد حقیقی نقصان کا باعث بن سکتا ہے۔
یہی وجہ ہے کہ ایجنٹ کا استعمال شروع کرنے سے پہلے درج ذیل سوالات پوچھنا مفید ہے: یہ کن اکاؤنٹس اور فائلوں تک رسائی حاصل کر سکتا ہے؟ کیا رقم بھیجنے، ڈیلیٹ کرنے یا ای میل بھیجنے جیسے ناقابل واپسی اقدامات کے لیے میری منظوری درکار ہے؟ کیا میں بعد میں اس کے کیے گئے ہر قدم کو دیکھ سکتا ہوں؟ امریکی نیشنل انسٹی ٹیوٹ آف اسٹینڈرڈز اینڈ ٹیکنالوجی (NIST) کا AI رسک مینجمنٹ فریم ورک بھی اسی طرح AI سسٹمز کے اثرات کی مسلسل نگرانی اور واضح طور پر متعین ذمہ داریوں کی سفارش کرتا ہے۔
AI ٹولز کی خصوصیات، پلانز اور قیمتیں اکثر تبدیل ہوتی رہتی ہیں۔ موجودہ معلومات کے لیے ہمیشہ ٹول کے آفیشل پیج کو چیک کریں۔
اکثر پوچھے گئے سوالات
ایجنٹ اور چیٹ اسسٹنٹ میں کیا فرق ہے؟
ایک چیٹ اسسٹنٹ بنیادی طور پر جوابات تیار کرتا ہے؛ ایک ایجنٹ ہدف کے حصول کے لیے ٹولز کا استعمال کرتے ہوئے اقدامات کرتا ہے۔ چونکہ اب بہت سے اسسٹنٹس میں ایجنٹ کی خصوصیات شامل ہیں، اس لیے ان کے درمیان فرق دھندلا ہوتا جا رہا ہے۔
ذرائع اور مزید مطالعہ
- OWASP، "Top 10 for LLM Applications" (پرامپٹ انجیکشن اور حد سے زیادہ ایجنسی)۔
- NIST، "AI Risk Management Framework: Generative AI Profile" (NIST AI 600-1)، 2024۔
- Shunyu Yao et al.، "ReAct: Synergizing Reasoning and Acting in Language Models"، ICLR، 2023۔
- OWASP – Top 10 for LLM Applications 2025 (Excessive Agency)
- NIST – AI Risk Management Framework (AI RMF 1.0)، 2023
Leave a comment
Your email address will not be published. Required fields are marked *