كانت مساعدات الدردشة الأولى للذكاء الاصطناعي أدوات تنتج إجابة واحدة عن سؤال ما. أما الجيل الجديد من الأنظمة المسمى بـ "الوكلاء" فيمكنه، عندما يُمنح هدفاً ما، تخطيط الخطوات اللازمة للوصول إليه، واستخدام أدوات مثل البحث في الويب، وقراءة وكتابة الملفات، وتشغيل التعليمات البرمجية أو تصفح موقع إلكتروني، والتحقق من النتيجة، والمحاولة مرة أخرى إذا لزم الأمر.
كيف تعمل؟
عادة ما يعمل الوكيل في حلقة: فهو يفهم المهمة، ويضع خطة، ويستخدم أداة (مثل إجراء بحث أو فتح ملف)، ويقيم النتيجة ويقرر الخطوة التالية. تستمر الحلقة حتى تكتمل المهمة أو تصبح موافقة المستخدم مطلوبة. وما يمكن أن يفعله الوكيل يعتمد على الأدوات والبيانات التي تم منحه حق الوصول إليها.
أمثلة على الاستخدام
- البحث: مسح عشرات المصادر وإعداد تقرير موثق.
- العمل المكتبي: جمع المعلومات من رسائل البريد الإلكتروني في جدول، وجدولة الاجتماعات.
- البرمجيات: العثور على خطأ برمجي وإصلاحه في قاعدة تعليمات برمجية، وكتابة الاختبارات.
- المهام الشخصية: مقارنة خيارات السفر، وملء النماذج (مع الموافقة على الخطوات الحرجة مثل الدفع).
المخاطر
- الإجراءات الخاطئة: قد يسيء الوكيل فهم تعليمة ما ويرسل بريداً إلكترونياً غير مرغوب فيه أو يحذف ملفاً.
- حقن الأوامر: يمكن للتعليمات الضارة المخفية في صفحة ويب أو مستند محاولة توجيه الوكيل. تعد هذه واحدة من أكثر مشكلات الأمان مناقشة بالنسبة للوكلاء.
- الأذونات المفرطة: الوصل الواسع إلى المناطق الحساسة مثل الحسابات المصرفية أو أنظمة الشركات يجلب مخاطر حدوث ضرر جسيم.
- المسؤولية: يتحمل المستخدم أو المؤسسة المسؤولية النهائية عن الإجراءات التي يتخذها الوكيل.
مبادئ الاستخدام الآمن
- منح الوكيل الحد الأدنى فقط من الأذونات اللازمة للمهمة.
- ضبطه ليطلب الموافقة قبل الخطوات التي لا رجعة فيها مثل تحويل الأموال، والشراء، وإرسال البريد الإلكتروني والحذف.
- مراجعة سجل الإجراءات التي اتخذها الوكيل.
- توخي الحذر عند السماح للوكيل بمعالجة المستندات والمواقع من مصادر غير معروفة.
الفرق بين وكيل الذكاء الاصطناعي والأتمتة الكلاسيكية
تعمل أدوات الأتمتة الكلاسيكية المستخدمة في أماكن العمل لسنوات وفقاً لقواعد مكتوبة مسبقاً، مثل "إذا وصلت فاتورة في هذا المجلد، فاكتب المبلغ في جدول البيانات." وعندما تواجه موقفاً خارج القواعد، فإنها تتوقف عادة. في المقابل، تتلقى وكلاء الذكاء الاصطناعي هدفا بلغة طبيعية، وتخطط للخطوات بنفسها ويمكنها تجربة طريق مختلف عند حدوث شيء غير متوقع.
- المرونة: يمكن للوكجيل محاولة فهم مستند تغير شكله؛ بينما لا تستطيع الأداة القائمة على القواعد ذلك.
- التنبؤ: تعطي الأتمتة الكلاسيكية نفس النتيجة في كل مرة؛ ويمكن أن يتنوع سلوك الوكيل مع المدخلات، ويمكن أن يرتكب أخطاء.
- الرقابة: لهذا السبب فإن الاحتفاظ بسجل لكل خطوة وطلب الموافقة البشرية على الإجراءات المهمة يكتسي أهمية أكبر مع الوكلاء.
أسئلة يجب طرحها قبل استخدام الوكيل
يتضمن مجتمع الأمان OWASP "الوكالة المفرطة" في قائمة أهم المخاطر في تطبيقات نماذج اللغة الكبيرة: إذا مُنح الوكيل أذونات أكثر من اللازم، فقد تتسبب تعليمة سوء فهمها أو محتوى ضار في ضرر حقيقي.
لهذا السبب من المفيد طرح ما يلي قبل البدء في استخدام الوكيل: ما هي الحسابات والملفات التي يمكنه الوصول إليها؟ هل تتطلب الإجراءات التي لا رجعة فيها مثل إرسال الأموال أو الحذف أو إرسال رسائل البريد الإلكتروني موافقتي؟ هل يمكنني رؤية كل خطوة اتخذها بعد ذلك؟ وبالمثل، يوصي المعهد الوطني الأمريكي للمعايير والتكنولوجيا (NIST) لإدارة مخاطر الذكاء الاصطناعي بالمراقبة المستمرة لآثار أنظمة الذكاء الاصطناعي والمسؤوليات المحددة بوضوح.
تتغير ميزات أدوات الذكاء الاصطناعي وخططها وأسعارها غالباً. تحقق دائماً من الصفحة الرسمية للأداة للحصول على معلومات حديثة.
أسئلة متكررة
ما الفرق بين الوكيل ومساعد الدردشة؟
ينتج مساعد الدردشة إجابات بشكل أساسي؛ بينما يتخذ الوكيل إجراءات باستخدام الأدوات نحو هدف ما. وبما أن العديد من المساعدين يتضمنون الآن ميزات الوكيل، فإن الخط الفاصل بينهم يتلاشى بشكل متزايد.
المصادر والقراءات الإضافية
- OWASP، “أفضل 10 لتطبيقات نماذج اللغة الكبيرة” (حقن الأوامر والوكالة المفرطة).
- NIST، “إطار عمل إدارة مخاطر الذكاء الاصطناعي: ملف تعريف الذكاء الاصطناعي التوليدي” (NIST AI 600-1)، 2024.
- Shunyu Yao et al., “ReAct: Synergizing Reasoning and Acting in Language Models”, ICLR, 2023.
- OWASP – Top 10 for LLM Applications 2025 (Excessive Agency)
- NIST – AI Risk Management Framework (AI RMF 1.0), 2023
اترك تعليقاً
لن يتم نشر عنوان بريدك الإلكتروني. الحقول المطلوبة مشار إليها بـ *