انتقل إلى المحتوى

معرفة تضيء العالم

ما هو هَلوسة الذكاء الاصطناعي؟ لماذا تخترع برامج الدردشة الأشياء وكيف تكتشف ذلك

قد تنتج مساعدات الذكاء الاصطناعي مصادر غير موجودة، أو تواريخ خاطئة، أو اقتباسات مخترعة. يُطلق على هذا "الهَلوسة". لماذا تحدث، وأمثلة من الواقع، وفحوصات عملية لتجنب التضليل.

ما هو هَلوسة الذكاء الاصطناعي؟ لماذا تخترع برامج الدردشة الأشياء وكيف تكتشف ذلك

يمكن لبرامج الدردشة بالذكاء الاصطناعي تقديم إجابات مرتبة وواثقة في ثوانٍ. لكن بعض هذه الإجابات قد يحتوي على كتاب غير موجود، أو اقتباس لم يُقل قط، أو تاريخ خاطئ. عندما ينتج الذكاء الاصطناعي معلومات رنانة لكنها كاذبة مثل هذا، يُطلق عليه "الهَلوسة". إنه أحد أهم القيود التي يجب فهمها عند استخدام الذكاء الاصطناعي كأداة مساعدة.

لماذا تحدث الهَلوسة؟

تتوقع نماذج اللغة الكبيرة الكلمة التالية الأكثر احتمالاً في الجملة بناءً على الأنماط المستفادة من كميات هائلة من النصوص. إنها لا تبحث عن الأشياء في قاعدة بيانات ولا تعرف بطبيعتها ما إذا كان ما تقوله صحيحاً. إذا لم يرَ النموذج بيانات متسقة كافية حول موضوع ما، فقد ينتج إجابة تبدو صحيحة بدلاً من قول "لا أعرف". كما يجدر التذكر أن تدريب النموذج ينتهي في تاريخ معين، لذا قد لا يعرف الأحداث الحديثة أو قد يقدم معلومات قديمة على أنها حالية.

أين هي الأكثر شيوعاً؟

  • المصادر والمراجع: مقالات أو كتب أو عناوين ويب ذات مظهر واقعي لكنها غير موجودة.
  • الاقتباسات: كلمات منسوبة إلى شخصيات مشهورة لم يقولوها قط.
  • الأرقام والتواريخ: إحصائيات، نسب مئوية، تواريخ الميلاد والوفاة.
  • المواضيع غير المعروفة: شخصيات محلية، منظمات صغيرة، منتجات جديدة، ومجالات متخصصة.
  • القانون، الطب والمالية: مجالات يمكن أن يكون للمعلومات الخاطئة فيها عواقب وخيمة.

مثال من الواقع

في قضية عام 2023 في الولايات المتحدة، استشهد محامون بأحكام قضائية ولّدها برنامج دردشة كسوابق في مرافعتهم، أحكام لم تكن موجودة فعلياً. وجد القاضي أن القضايا كانت مخترعة وغرّم المحامين. أصبحت الحلقة أحد أشهر الأمثلة على مخاطر استخدام مخرجات الذكاء الاصطناعي في العمل الرسمي دون التحقق منها.

كيف تحمي نفسك

  1. اطلب المصادر وتحقق منها: انقر على الرابط وابحث فعلياً عن الكتاب أو المقال.
  2. تحقق من المعلومات المهمة في المصدر الأولي: اعتمد على صفحات الهيئات الرسمية، الناشرين أو الخبراء.
  3. استخدم أدوات مبنية على البحث للمواضيع الحالية: المساعدون الذين يبحثون في الويب ويستشهدون بالمصادر أكثر موثوقية في المواضيع الحالية، لكنهم قد يرتكبون أخطاء أيضاً.
  4. اسأل عن عدم اليقين: أسئلة مثل "ما مدى ثقتك، وأية أجزاء متنازع عليها؟" يمكن أن تكشف نقاط الضعف.
  5. اطرح السؤال نفسه بطريقة مختلفة: كن حذراً إذا تناقضت الإجابات.
  6. استشر الخبراء في الصحة، القانون والمال: يمكن أن يكون الذكاء الاصطناعي مفيداً للخلفية، لكنه لا يحل محل المشورة المهنية.

ماذا يفعل المطورون؟

تطور شركات الذكاء الاصطناعي أساليب تدريب تشجع النماذج على القول عندما لا تكون متأكدة، وتقنيات "التوليد المعزز بالاسترجاع" (RAG) التي ترتكز الإجابات على وثائق موثوقة، وميزات الاستشهاد. تقلل هذه الأساليب الأخطاء لكنها لا تلغيها. لذا فإن النهج الأكثر أماناً هو التعامل مع الذكاء الاصطناعي كشريك في الصياغة والعصف الذهني وترك القرار النهائي للمعلومات التي تم التحقق منها.

أنواع الهَلوسة ونطاقها

لا تظهر الهَلوسة في نماذج الذكاء الاصطناعي في شكل واحد. يمكن تصنيفها إلى أنواع متميزة، بشكل أساسي الأخطاء الواقعية والتناقضات المنطقية. تتضمن الأخطاء الواقعية تقديم النموذج لحدث، شخص، مكان، أو تاريخ غير موجود في الواقع. يحدث هذا لأن النموذج يجمع الاحتمالات بشكل خاطئ لملء فجوات معرفته.

تمتلك الهَلوسة المنطقية بنية أكثر تعقيداً ودقة. في هذه الحالات، حتى لو قبل النموذج دقة المعلومات المقدمة أو المعروفة، فقد يخطئ في علاقات السبب والنتيجة أو عملية الاستدلال المحددة بين تلك المعلومات. على سبيل المثال، قد يصل إلى استنتاج خاطئ تماماً من مقدمات صحيحة أو يفقد الاتساق المنطقي أثناء المضي خطوة بخطوة في تسلسل رياضي. تثبت هذه الأخطاء بوضوح أن النموذج لا يخزن المعلومات فحسب، بل قد يكون لديه أيضاً عيوب في كيفية معالجته وتوليفه لتلك المعلومات.

تأثير بيانات التدريب

ترتبط عملية تعلم النماذج مباشرة بجودة وتنوع مجموعات البيانات الضخمة التي تواجهها. إذا احتوت بيانات التدريب على كثافات عالية من المعلومات المتعارضة، أو المعتقدات الخاطئة، أو الأخبار المضللة، أو الروايات غير المكتملة، فإن النموذج يميل إلى تعلم وتكرار هذه الأنماط الخاطئة. إن وجود المعلومات المضللة والمحتوى غير الموثق على الإنترنت هو أحد العوامل الأساسية التي تجعل من الصعب على النماذج التمييز بين الخط الدقيق الفاصل بين الواقع والخيال.

علاوة على ذلك، فإن التوزيع غير المتكافئ لكثافة المعلومات داخل مجموعات البيانات هو عامل مهم يحفز الهَلوسة. بينما يمكن للنموذج تقديم استجابات متسقة وموثوقة للغاية فيما يتعلق بالمواضيع التي يتم مواجهتها بشكل متكرر والمقبولة على نطاق واسع، يزداد معدل الخطأ بسرعة عندما يُجبر على التنبؤ بمواضيع أقل تمثيلاً، أو متخصصة، أو حديثة جداً. لملء فراغ في معرفته، يبني النموذج رواية غير واقعية لكنها تبدو معقولة باستخدام أقرب الأنماط اللغوية المتاحة له.

طرق التفاعل ودور المحفزات (Prompts)

يمكن للطريقة التي يتواصل بها المستخدم مع الذكاء الاصطناعي أن تؤثر مباشرة على دقة الاستجابة المولدة. يمكن للطريقة التي يُطرح بها السؤال أن تعمل كمحفز، مما يدفع النموذج للانحراف في اتجاه معين أو التحقق من معلومات خاطئة. ينبع هذا من حقيقة أن النماذج مبرمجة ليس فقط لتوليد استجابة ولكن أيضاً للتوافق مع توقعات المستخدم.

  • طرح أسئلة مضللة أو توجيهية.
  • تقديم سياق غير كافٍ أو غير مكتمل.
  • طلب استدلال معقد ومتعدد الخطوات.
  • استخدام تعبيرات غامضة أو متعددة المعاني.
  • إصدار تعليمات مفرطة في التقييد تدفع حدود النموذج.

في هذه العملية، المعروفة أيضاً بهندسة المحفزات، تعتبر وضوح الأسئلة وصياغتها أدوات حاسمة لتقليل خطر الهَلوسة. يمنع السؤال جيد البناء النموذج من الضياع بين الاحتمالات ويسمح له بتقديم استجابات على أساس أكثر موثوقية.

الهَلوسة في النماذج متعددة الوسائط

عندما يمتد الذكاء الاصطناعي إلى ما وراء النص لمعالجة أنواع بيانات مختلفة مثل الصور، الصوت، والفيديو، تظهر الهَلوسة بأشكال متنوعة. في النماذج البصرية، من الشائع رؤية أشياء موضوعة بطرق تتحدى قواعد العالم المادي أو إضافة تفاصيل غير موجودة.

في النماذج الصوتية، يمكن ملاحظة إنتاج أصوات غير موجودة في الواقع أو التشويه غير الطبيعي لإيقاع الكلام ونبرته. في نماذج الفيديو، تثبت ظواهر مثل فقدان الاتساق الزمني أو تغير شكل الأشياء أثناء انتقالها من إطار إلى آخر أن النموذج لا يدرك الواقع المادي بشكل كامل.

مناهج الكشف والتحقق

يمكن تطبيق طرق تحقق متنوعة على المستويين الفردي والتقني لتقليل تأثير الهَلوسة. على المستوى الفردي، الطريقة الأكثر فعالية هي تأكيد المعلومات المولدة من خلال مصادر مختلفة ومستقلة. بدلاً من الاعتماد على استجابة نموذج واحد، فإن إخضاع المعلومات للفحص المتقاطع يقلل هامش الخطأ بشكل كبير.

على المستوى التقني، جارية أبحاث في آليات مصممة للسماح للنماذج بتدقيق استجاباتها الخاصة. يمكن أن يساعد مقارنة مخرجات النموذج بوثيقة موثوقة مقدمة له، أو جعل النموذج يمرر مخرجاته الخاصة عبر فلتر منطقي، في اكتشاف الأخطاء مبكراً.

القيود النظرية والتحديات الهيكلية

إن القضاء التام على هَلوسة الذكاء الاصطناعي هدف صعب بسبب الطبيعة الكامنة للهياكل الحالية ومبادئ التشغيل. هذه النماذج ليست كائنات واعية قادرة على فهم الواقع، بل آلات احتمالية تتبع أنماطاً لغوية رياضياً. في هذه الأنظمة، المبنية على مبدأ التنبؤ بالكلمة أو نقطة البيانات التالية، يوجد دائماً توازن دقيق وأحياناً متعارض بين الدقة والإبداع.

عندما يكون الهدف زيادة الإبداع والإنتاجية، تزداد احتمالية إنتاج النموذج لاستجابات أكثر غير متوقعة، وأصلية، ومفاجئة، لكن هذا يجلب أيضاً خطر الانحراف عن الواقع. يظل هذا التناقض الهيكلي أحد أهم المشاكل العلمية، التقنية، والفلسفية التي يتعين حلها في تطوير الذكاء الاصطناعي المستقبلي. إن عدم اليقين الكامن في النظام يعمل كتذكير بأن نبقى دائماً حذرين عند استخدام الذكاء الاصطناعي كأداة داعمة.

الأسئلة الشائعة

هل تحدث الهَلوسة فقط في ذكاء اصطناعي توليد النصوص؟

لا. يمكن لنماذج توليد الصور أيضاً إضافة تفاصيل غير موجودة، مثل أيادٍ بأصابع إضافية أو نصوص لا معنى لها. يمكن أن تظهر أخطاء مشابهة في نماذج الصوت والفيديو.

المصادر والمزيد من القراءة

  1. Mata v. Avianca, Inc.، محكمة المقاطعة الأمريكية للمنطقة الجنوبية لنيويورك، أمر العقوبات بتاريخ 22 يونيو 2023.
  2. NIST، "إطار إدارة مخاطر الذكاء الاصطناعي: ملف الذكاء الاصطناعي التوليدي" (NIST AI 600-1)، 2024.
  3. Ziwei Ji et al.، "Survey of Hallucination in Natural Language Generation" (مسح الهَلوسة في توليد اللغة الطبيعية)، ACM Computing Surveys، 2023.
مشاركة
تابع YulaHubكن أول من يعرف أهم أخبار اليوم.
RSS

اترك تعليقاً

لن يتم نشر عنوان بريدك الإلكتروني. الحقول المطلوبة مشار إليها بـ *