قد تبدو أنظمة الذكاء الاصطناعي وكأنها "آلات محايدة"، لكنها تتعلم من بيانات ينتجها البشر. إذا كانت تلك البيانات تحتوي على أوجه عدم مساواة اجتماعية، أو تمثيل ناقص، أو قرارات خاطئة في الماضي، فإن النظام يتعلمها وأحياناً يضخمها. وهذا ما يسمى بالتحيز في الذكاء الاصطناعي.
من أين يأتي التحيز؟
- بيانات غير متوازنة: إذا كانت بعض المجموعات ممثلة تمثيلاً ناقصاً في بيانات التدريب، فإن النظام يعمل بشكل أسوأ بالنسبة لها.
- تعكس الماضي: إذا كانت القرارات السابقة تمييزية، فإن النموذج الذي يحاكيها سيولد نتائج تمييزية.
- القياس والتصنيف: تعريف "النجاح" بشكل خاطئ، أو تحيزات المصنفين أنفسهم.
- سياق الاستخدام: استخدام نظام تم تطويره في دولة أو مجموعة معينة في بيئة مختلفة دون التحقق منه.
أمثلة حقيقية
أظهرت دراسة "Gender Shades" لعام 2018 التي أجرتها جوي بولامويني وتيمنيت غيبرو من معهد ماساتشوستس للتكنولوجيا (MIT) أن أنظمة التصنيف الجنسي التجارية كانت شبه خالية من الأخطاء للرجال ذوي البشرة الفاتحة، لكن كان لديها معدلات خطأ أعلى بكثير للنساء ذوات البشرة الداكنة. كما وجدت اختبارات أجراها المعهد الوطني الأمريكي للمعايير والتكنولوجيا (NIST) في عام 2019 معدلات خطأ مختلفة عبر المجموعات الديموغرافية في العديد من خوارزميات التعرف على الوجه. ووفقاً لتقرير رويترز لعام 2018، ألغت أمازون أداة توظيف تجريبية تم تدريبها على سير ذاتية سابقة وكانت تضر بالمرشحات من النساء.
يمكن لنماذج اللغة الكبيرة ومولدات الصور أيضاً أن تظهر تحيزاً، مثل ربط الوظائف بجنس معين أو تصوير بعض الثقافات بطرق نمطية.
لماذا يهم ذلك؟
التحيز في توصية فيلم أمر مزعج؛ لكن في التوظيف، وتقييم الائتمان، والرعاية الصحية، والمزايا الاجتماعية، أو نظام العدالة، يمكن للتحيز أن يؤثر مباشرة على حياة الناس. لهذا السبب يحدد قانون الذكاء الاصطناعي في الاتحاد الأوروبي متطلبات جودة البيانات، والتوثيق، والإشراف البشري للأنظمة عالية المخاطر.
طرق معالجته
- استخدام مجموعات بيانات متنوعة وتمثيلية.
- اختبار الأنظمة بشكل منفصل عبر مجموعات مختلفة قبل الإصدار ونشر النتائج.
- تصميم أنظمة قابلة للتدقيق يمكنها شرح كيفية اتخاذ القرارات.
- ترك القرار النهائي في القرارات المهمة للإنسان وتوفير طريقة للطعن.
- تضمين وجهات نظر مختلفة في فرق التطوير.
نصائح للمستخدمين
استخدم النصوص والصور التي تنتجها أدوات الذكاء الاصطناعي بنقد؛ وراقب بشكل خاص التعميمات حول الأشخاص والمجموعات والثقافات. عندما يؤثر قرار آلي عليك، تعرف على حقك في السؤال عن كيفية اتخاذه وفي الطعن فيه.
كيف يتم قياس التحيز؟ مقاييس العدالة
لفهم ما إذا كان النموذج متحيزاً، يجب مقارنة نتائجه عبر المجموعات. المقاييس التي يستخدمها الباحثون غالباً هي:
- التكافؤ الديموغرافي: يتحقق مما إذا كان معدل القرارات الإيجابية (مثلاً، الموافقة على القرض) مشابهاً عبر مجموعات مختلفة.
- معدلات خطأ متساوية: من المتوقع أن تكون معدلات الإيجابيات الكاذبة والسلبيات الكاذبة متقاربة بين المجموعات.
- المعايرة: عندما يقول النموذج "احتمالية 70 بالمئة"، يجب أن يكون هذا التنبؤ صحيحاً حوالي 70 بالمئة من الوقت في كل مجموعة.
نقطة مهمة: أظهرت دراسة ألكسندرا تشولديتشوفا لعام 2017 أنه عندما يكون للمجموعات معدلات أساسية مختلفة، لا يمكن تحقيق المعايرة ومعدلات الخطأ المتساوية بشكل كامل في نفس الوقت. لهذا السبب، "النموذج العادل" ليس رقماً واحداً بل خيار متعمد يتم اتخاذه وفقاً للسياق، ويجب تدوين المنطق وراء هذا الاختيار بشكل علني.
الإطار القانوني والمعايير
في تقريره SP 1270 الصادر عام 2022، يقسم المعهد الوطني الأمريكي للمعايير والتكنولوجيا (NIST) تحيز الذكاء الاصطناعي إلى ثلاثة مصادر رئيسية: النظامي (المؤسسي والمجتمعي)، والإحصائي/الحاسوبي (القادم من البيانات والنماذج)، والبشري (القادم من قرارات التصميم والاستخدام). ويؤكد التقرير أن المشكلة لا يمكن حلها بالإصلاحات التقنية وحدها.
يتطلب قانون الذكاء الاصطناعي في الاتحاد الأوروبي (اللائحة 2024/1689) أنه في الأنظمة عالية المخاطر مثل التوظيف أو تقييم الائتمان، يتم فحص بيانات التدريب بحثاً عن التحيزات المحتملة وأن يتم اتخاذ تدابير مناسبة لمنعها. بالنسبة للمنظمات، يعني هذا أن اختبار التحيز ينتقل من ممارسة جيدة اختيارية إلى التزام قانوني.
المصادر والمزيد من القراءة
- Buolamwini, J. and Gebru, T., "Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification", FAT* (2018).
- NIST, "Face Recognition Vendor Test (FRVT) Part 3: Demographic Effects", NISTIR 8280 (2019).
- Reuters, "Amazon scraps secret AI recruiting tool that showed bias against women" (2018).
- European Union, Artificial Intelligence Act (Regulation 2024/1689).
- NIST SP 1270 – Towards a Standard for Identifying and Managing Bias in Artificial Intelligence (2022)
- EUR-Lex – Regulation (EU) 2024/1689 (Artificial Intelligence Act), Article 10
- Chouldechova, A. (2017). Fair prediction with disparate impact. Big Data, 5(2)
اترك تعليقاً
لن يتم نشر عنوان بريدك الإلكتروني. الحقول المطلوبة مشار إليها بـ *