مواد پر جائیں

دنیا کو روشن کرنے والا علم

AI میں تعصب (Bias) کیا ہے؟ اس کے ذرائع، حقیقی مثالیں اور حل

AI سسٹمز ان عدم مساوات کو سیکھ سکتے ہیں اور بڑھا سکتے ہیں جو ان کے تربیتی ڈیٹا میں موجود ہوتی ہیں۔ بھرتی سے لے کر چہرے کی شناخت تک تعصب کی حقیقی مثالیں، اس کے ذرائع، پیمائش کے طریقے، اور وہ اقدامات جو ڈویلپرز اور صارفین اٹھا سکتے ہیں۔

AI میں تعصب (Bias) کیا ہے؟ اس کے ذرائع، حقیقی مثالیں اور حل

AI سسٹمز بظاہر "غیر جانبدار مشینیں" لگ سکتے ہیں، لیکن وہ انسانوں کے تیار کردہ ڈیٹا سے سیکھتے ہیں۔ اگر اس ڈیٹا میں سماجی عدم مساوات، کم نمائندگی یا ماضی کے غلط فیصلے شامل ہوں، تو سسٹم انہیں سیکھ لیتا ہے اور بعض اوقات انہیں مزید بڑھا دیتا ہے۔ اسے AI میں تعصب (bias) کہا جاتا ہے۔

تعصب کہاں سے آتا ہے؟

  • غیر متوازن ڈیٹا: اگر تربیتی ڈیٹا میں کچھ گروہوں کی نمائندگی کم ہو، تو سسٹم ان کے لیے کم بہتر کام کرتا ہے۔
  • ماضی کی عکاسی: اگر ماضی کے فیصلے امتیازی تھے، تو ان کی نقل کرنے والا ماڈل امتیازی نتائج ہی پیدا کرے گا۔
  • پیمائش اور لیبلنگ: "کامیابی" کی غلط تعریف، یا لیبل لگانے والوں کے اپنے تعصبات۔
  • استعمال کا سیاق و سباق: ایک ملک یا گروہ کے لیے تیار کردہ سسٹم کو بغیر کسی جانچ پڑتال کے مختلف ماحول میں استعمال کرنا۔

حقیقی مثالیں

MIT کی جوائے بولامونی اور ٹمنٹ گیبرو کی 2018 کی "Gender Shades" تحقیق نے دکھایا کہ تجارتی صنفی درجہ بندی کے سسٹمز ہلکی رنگت والے مردوں کے لیے تقریباً غلطیوں سے پاک تھے، لیکن گہری رنگت والی خواتین کے لیے غلطیوں کی شرح بہت زیادہ تھی۔ 2019 میں امریکی نیشنل انسٹی ٹیوٹ آف اسٹینڈرڈز اینڈ ٹیکنالوجی (NIST) کے ٹیسٹوں میں بھی کئی چہرے کی شناخت کے الگورتھم میں مختلف آبادیاتی گروہوں کے درمیان غلطیوں کی مختلف شرح پائی گئی۔ 2018 کی ایک رائٹرز رپورٹ کے مطابق، ایمیزون نے بھرتی کے ایک تجرباتی ٹول کو ختم کر دیا جو ماضی کے سی وی (CVs) پر تربیت یافتہ تھا اور خواتین امیدواروں کے ساتھ ناانصافی کر رہا تھا۔

بڑے لسانی ماڈلز (LLMs) اور امیج جنریٹرز بھی تعصب ظاہر کر سکتے ہیں، جیسے کہ ملازمتوں کو مخصوص جنسوں سے جوڑنا یا کچھ ثقافتوں کو دقیانوسی انداز میں پیش کرنا۔

یہ کیوں اہم ہے؟

فلم کی سفارش میں تعصب پریشان کن ہو سکتا ہے؛ لیکن بھرتی، کریڈٹ اسکورنگ، صحت کی دیکھ بھال، سماجی فوائد یا عدالتی نظام میں تعصب براہ راست لوگوں کی زندگیوں کو متاثر کر سکتا ہے۔ یہی وجہ ہے کہ EU AI Act اعلیٰ خطرے والے سسٹمز کے لیے ڈیٹا کے معیار، دستاویزات اور انسانی نگرانی کے تقاضے مقرر کرتا ہے۔

اس سے نمٹنے کے طریقے

  • متنوع اور نمائندہ ڈیٹا سیٹس کا استعمال کریں۔
  • ریلیز کرنے سے پہلے مختلف گروہوں پر الگ الگ سسٹمز کی جانچ کریں اور نتائج شائع کریں۔
  • ایسے قابلِ auditing سسٹمز ڈیزائن کریں جو بتا سکیں کہ فیصلے کیسے کیے گئے۔
  • اہم فیصلوں کا حتمی اختیار انسان کے پاس رکھیں اور اپیل کا طریقہ فراہم کریں۔
  • ڈویلپمنٹ ٹیموں میں مختلف نقطہ نظر کے حامل افراد کو شامل کریں۔

صارفین کے لیے تجاویز

AI ٹولز کے ذریعے تیار کردہ متن اور تصاویر کا تنقیدی جائزہ لیں؛ خاص طور پر لوگوں، گروہوں اور ثقافتوں کے بارے میں عمومی باتوں (generalisations) پر نظر رکھیں۔ جب کوئی خودکار فیصلہ آپ کو متاثر کرے، تو اس بارے میں معلوم کریں کہ آپ کا یہ حق ہے کہ آپ پوچھیں کہ یہ فیصلہ کیسے کیا گیا اور اسے چیلنج کریں۔

تعصب کی پیمائش کیسے کی جاتی ہے؟ انصاف کے پیمانے (Fairness metrics)

یہ سمجھنے کے لیے کہ آیا کوئی ماڈل متعصب ہے، اس کے نتائج کا مختلف گروہوں کے درمیان موازنہ کرنا ضروری ہے۔ محققین سب سے زیادہ درج ذیل پیمانے استعمال کرتے ہیں:

  • ڈیموگرافک پیریٹی (Demographic parity): یہ چیک کرتا ہے کہ آیا مثبت فیصلوں کی شرح (مثلاً قرض کی منظوری) مختلف گروہوں میں یکساں ہے یا نہیں۔
  • برابر غلطی کی شرح (Equal error rates): توقع کی جاتی ہے کہ گروہوں کے درمیان 'فالس پازیٹو' اور 'فالس نیگیٹو' کی شرح قریب قریب ہو۔
  • کیلیبریشن (Calibration): جب ماڈل کہتا ہے کہ "70 فیصد امکان ہے"، تو وہ پیش گوئی ہر گروپ میں حقیقت میں تقریباً 70 فیصد بار درست ہونی چاہیے۔

ایک اہم نکتہ: الیگزینڈرا چولڈیکووا کی 2017 کی تحقیق نے دکھایا کہ جب گروہوں کی بنیادی شرحیں (base rates) مختلف ہوتی ہیں، تو کیلیبریشن اور برابر غلطی کی شرح دونوں کو ایک ہی وقت میں مکمل طور پر پورا نہیں کیا جا سکتا۔ یہی وجہ ہے کہ ایک "منصفانہ ماڈل" کوئی ایک عدد نہیں ہے بلکہ سیاق و سباق کے مطابق کیا گیا ایک سوچا سمجھا انتخاب ہے، اور اس انتخاب کے پیچھے موجود منطق کو واضح طور پر لکھا جانا چاہیے۔

قانونی ڈھانچہ اور معیارات

2022 میں شائع ہونے والی اپنی SP 1270 رپورٹ میں، امریکی نیشنل انسٹی ٹیوٹ آف اسٹینڈرڈز اینڈ ٹیکنالوجی (NIST) نے AI تعصب کو تین اہم ذرائع میں تقسیم کیا ہے: نظامی (ادارتی اور سماجی)، شماریاتی/کمپیوٹیشنل (ڈیٹا اور ماڈلز سے آنے والا) اور انسانی (ڈیزائن اور استعمال کے فیصلوں سے آنے والا)۔ رپورٹ اس بات پر زور دیتی ہے کہ اس مسئلے کو صرف تکنیکی اصلاحات سے حل نہیں کیا جا سکتا۔

یورپی یونین کا آرٹیفیشل انٹیلیجنس ایکٹ (Regulation 2024/1689) تقاضا کرتا ہے کہ بھرتی یا کریڈٹ تشخیص جیسے اعلیٰ خطرے والے سسٹمز میں، تربیتی ڈیٹا کا ممکنہ تعصبات کے لیے جائزہ لیا جائے اور انہیں روکنے کے لیے مناسب اقدامات کیے جائیں۔ تنظیموں کے لیے اس کا مطلب یہ ہے کہ تعصب کی جانچ اب ایک اختیاری اچھی مشق کے بجائے ایک قانونی ذمہ داری بن گئی ہے۔

ذرائع اور مزید مطالعہ

  1. Buolamwini, J. and Gebru, T., “Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification”, FAT* (2018).
  2. NIST, “Face Recognition Vendor Test (FRVT) Part 3: Demographic Effects”, NISTIR 8280 (2019).
  3. Reuters, “Amazon scraps secret AI recruiting tool that showed bias against women” (2018).
  4. European Union, Artificial Intelligence Act (Regulation 2024/1689).
  5. NIST SP 1270 – Towards a Standard for Identifying and Managing Bias in Artificial Intelligence (2022)
  6. EUR-Lex – Regulation (EU) 2024/1689 (Artificial Intelligence Act), Article 10
  7. Chouldechova, A. (2017). Fair prediction with disparate impact. Big Data, 5(2)
شیئر کریں
YulaHub کو فالو کریںدن کی اہم ترین خبریں سب سے پہلے حاصل کریں۔
RSS

Leave a comment

Your email address will not be published. Required fields are marked *