বিষয়বস্তুতে যান

বিশ্বকে আলোকিত করা জ্ঞান

এআই বা কৃত্রিম বুদ্ধিমত্তায় পক্ষপাত (Bias) কী? এর উৎস, বাস্তব উদাহরণ এবং সমাধান

এআই সিস্টেমগুলো তাদের প্রশিক্ষণের জন্য ব্যবহৃত ডেটার মধ্যকার বৈষম্যগুলো শিখতে পারে এবং তা আরও বাড়িয়ে তুলতে পারে। নিয়োগ থেকে শুরু করে ফেসিয়াল রিকগনিশন বা মুখমণ্ডল শনাক্তকরণ পর্যন্ত পক্ষপাতের বাস্তব উদাহরণ, এর উৎস, এটি কীভাবে পরিমাপ করা হয় এবং ডেভেলপার ও ব্যবহারকারীরা কী পদক্ষেপ নিতে পারেন সে সম্পর্কে বিস্তারিত।

এআই বা কৃত্রিম বুদ্ধিমত্তায় পক্ষপাত (Bias) কী? এর উৎস, বাস্তব উদাহরণ এবং সমাধান

এআই সিস্টেমগুলোকে দেখতে "নিরপেক্ষ মেশিন" মনে হতে পারে, কিন্তু এগুলো মানুষের তৈরি করা ডেটা থেকে শেখে। যদি সেই ডেটাতে সামাজিক বৈষম্য, প্রতিনিধিত্বের অভাব বা অতীতের ভুল সিদ্ধান্ত থাকে, তবে সিস্টেমটি সেগুলো শিখে ফেলে এবং কখনও কখনও তা আরও বাড়িয়ে দেয়। একেই এআই-তে পক্ষপাত বা 'bias' বলা হয়।

পক্ষপাত কোথা থেকে আসে?

  • অসামঞ্জস্যপূর্ণ ডেটা: যদি প্রশিক্ষণ ডেটাতে কিছু গোষ্ঠীর প্রতিনিধিত্ব কম থাকে, তবে সিস্টেমটি তাদের ক্ষেত্রে সঠিকভাবে কাজ করতে পারে না।
  • অতীতের প্রতিফলন: যদি অতীতের সিদ্ধান্তগুলো বৈষম্যমূলক হয়ে থাকে, তবে সেই সিদ্ধান্তগুলোকে অনুকরণ করা একটি মডেলও বৈষম্যমূলক ফলাফল দেবে।
  • পরিমাপ এবং লেবেলিং: "সাফল্য" ভুলভাবে সংজ্ঞায়িত করা, অথবা লেবেলারদের নিজস্ব পক্ষপাত।
  • ব্যবহারের প্রেক্ষাপট: একটি দেশ বা গোষ্ঠীর জন্য তৈরি করা সিস্টেম পরীক্ষা না করেই অন্য কোনো পরিবেশে ব্যবহার করা।

বাস্তব উদাহরণ

MIT-এর জয়ে বুল্লামউইনি এবং তিমনিট গেব্রু কর্তৃক পরিচালিত ২০১৮ সালের “Gender Shades” গবেষণাটি দেখিয়েছে যে, বাণিজ্যিক জেন্ডার ক্লাসিফিকেশন সিস্টেমগুলো হালকা বর্ণের পুরুষদের ক্ষেত্রে প্রায় ত্রুটিহীন ছিল, কিন্তু গাঢ় বর্ণের নারীদের ক্ষেত্রে এতে অনেক বেশি ত্রুটির হার ছিল। ২০১৯ সালে মার্কিন ন্যাশনাল ইনস্টিটিউট অফ স্ট্যান্ডার্ডস অ্যান্ড টেকনোলজি (NIST)-এর পরীক্ষাগুলোও অনেক ফেসিয়াল রিকগনিশন অ্যালগরিদমে বিভিন্ন জনতাত্ত্বিক গোষ্ঠীর মধ্যে ভিন্ন ভিন্ন ত্রুটির হার খুঁজে পেয়েছে। ২০১৮ সালের একটি রয়টার্স রিপোর্ট অনুযায়ী, অ্যামাজন একটি পরীক্ষামূলক নিয়োগ সরঞ্জাম বাতিল করেছিল যা অতীতের সিভি (CV) থেকে প্রশিক্ষিত ছিল এবং যা নারী প্রার্থীদের প্রতি বৈষম্য প্রদর্শন করছিল।

লার্জ ল্যাঙ্গুয়েজ মডেল এবং ইমেজ জেনারেটরগুলোতেও পক্ষপাত দেখা দিতে পারে, যেমন নির্দিষ্ট কিছু পেশাকে নির্দিষ্ট লিঙ্গের সাথে যুক্ত করা বা কিছু সংস্কৃতিকে গতানুগতিক বা স্টিরিওটাইপড উপায়ে উপস্থাপন করা।

এটি কেন গুরুত্বপূর্ণ?

একটি চলচ্চিত্র সুপারিশের ক্ষেত্রে পক্ষপাত থাকা বিরক্তিকর হতে পারে; কিন্তু নিয়োগ, ক্রেডিট স্কোরিং, স্বাস্থ্যসেবা, সামাজিক সুবিধা বা বিচার ব্যবস্থায় পক্ষপাত সরাসরি মানুষের জীবনকে প্রভাবিত করতে পারে। এই কারণেই EU AI Act উচ্চ-ঝুঁকিপূর্ণ সিস্টেমের জন্য ডেটার গুণমান, নথিপত্র এবং মানুষের তত্ত্বাবধানের প্রয়োজনীয়তা নির্ধারণ করেছে।

প্রতিকারের উপায়

  • বৈচিত্র্যময় এবং প্রতিনিধিত্বমূলক ডেটাসেট ব্যবহার করুন।
  • রিলিজ করার আগে বিভিন্ন গোষ্ঠীর ওপর আলাদাভাবে সিস্টেমগুলো পরীক্ষা করুন এবং ফলাফল প্রকাশ করুন।
  • অডিটযোগ্য বা নিরীক্ষণযোগ্য সিস্টেম ডিজাইন করুন যা ব্যাখ্যা করতে পারে কীভাবে সিদ্ধান্ত নেওয়া হয়েছে।
  • গুরুত্বপূর্ণ সিদ্ধান্তের ক্ষেত্রে চূড়ান্ত সিদ্ধান্ত মানুষের ওপর ছেড়ে দিন এবং আপিল করার সুযোগ রাখুন।
  • ডেভেলপমেন্ট টিমে বিভিন্ন দৃষ্টিভঙ্গির মানুষের অন্তর্ভুক্তি নিশ্চিত করুন।

ব্যবহারকারীদের জন্য টিপস

এআই টুল দ্বারা তৈরি টেক্সট এবং ছবিগুলো সমালোচনামূলকভাবে ব্যবহার করুন; বিশেষ করে মানুষ, গোষ্ঠী এবং সংস্কৃতি সম্পর্কে সাধারণীকরণ বা ঢালাও মন্তব্য করার ক্ষেত্রে সতর্ক থাকুন। যখন কোনো স্বয়ংক্রিয় সিদ্ধান্ত আপনাকে প্রভাবিত করে, তখন সেটি কীভাবে নেওয়া হয়েছে তা জিজ্ঞাসা করার এবং চ্যালেঞ্জ করার অধিকার সম্পর্কে জানুন।

পক্ষপাত কীভাবে পরিমাপ করা হয়? ফেয়ারনেস মেট্রিক্স

একটি মডেল পক্ষপাতদুষ্ট কিনা তা বোঝার জন্য, বিভিন্ন গোষ্ঠীর মধ্যে এর ফলাফল তুলনা করতে হয়। গবেষকরা সবচেয়ে বেশি যে মেট্রিক্সগুলো ব্যবহার করেন তা হলো:

  • ডেমোগ্রাফিক প্যারিটি (Demographic parity): এটি পরীক্ষা করে দেখে যে ইতিবাচক সিদ্ধান্তের হার (উদাহরণস্বরূপ, ঋণ অনুমোদন) বিভিন্ন গোষ্ঠীর মধ্যে সমান কি না।
  • সমান ত্রুটির হার (Equal error rates): বিভিন্ন গোষ্ঠীর মধ্যে ফলস পজিটিভ (false positive) এবং ফলস নেগেটিভ (false negative) হারের পার্থক্য খুব কম হওয়া উচিত।
  • ক্যালিব্রেশন (Calibration): মডেল যখন "৭০ শতাংশ সম্ভাবনা" বলে, তখন সেই ভবিষ্যদ্বাণীটি প্রতিটি গোষ্ঠীর ক্ষেত্রে আসলে প্রায় ৭০ শতাংশ সময় সঠিক হওয়া উচিত।

একটি গুরুত্বপূর্ণ বিষয়: অ্যালেক্সান্ড্রা চোলডেচোভা-র ২০১৭ সালের গবেষণা দেখিয়েছে যে, যখন বিভিন্ন গোষ্ঠীর বেস রেট (base rates) ভিন্ন হয়, তখন ক্যালিব্রেশন এবং সমান ত্রুটির হার উভয়ই একই সাথে পুরোপুরি পূরণ করা সম্ভব নয়। এই কারণেই একটি "ফেয়ার মডেল" বা নিরপেক্ষ মডেল কোনো একক সংখ্যা নয়, বরং প্রেক্ষাপট অনুযায়ী করা একটি সচেতন পছন্দ, এবং সেই পছন্দের পেছনের যুক্তিগুলো স্পষ্টভাবে লিখে রাখা উচিত।

আইনি কাঠামো এবং মানদণ্ড

২০২২ সালে প্রকাশিত তাদের SP 1270 রিপোর্টে, মার্কিন ন্যাশনাল ইনস্টিটিউট অফ স্ট্যান্ডার্ডস অ্যান্ড টেকনোলজি (NIST) এআই পক্ষপাতকে তিনটি প্রধান উৎসে বিভক্ত করেছে: সিস্টেমিক (প্রাতিষ্ঠানিক এবং সামাজিক), স্ট্যাটিস্টিক্যাল/কম্পিউটেশনাল (ডেটা এবং মডেল থেকে আসা) এবং হিউম্যান (ডিজাইন এবং ব্যবহারের সিদ্ধান্ত থেকে আসা)। রিপোর্টে জোর দেওয়া হয়েছে যে, শুধুমাত্র প্রযুক্তিগত সমাধানের মাধ্যমে এই সমস্যার সমাধান করা সম্ভব নয়।

ইউরোপীয় ইউনিয়নের আর্টিফিশিয়াল ইন্টেলিজেন্স অ্যাক্ট (Regulation 2024/1689) অনুযায়ী, নিয়োগ বা ক্রেডিট মূল্যায়নের মতো উচ্চ-ঝুঁকিপূর্ণ সিস্টেমগুলোতে প্রশিক্ষণের ডেটা সম্ভাব্য পক্ষপাতিত্বের জন্য পরীক্ষা করা প্রয়োজন এবং তা প্রতিরোধের জন্য যথাযথ ব্যবস্থা গ্রহণ করতে হবে। সংস্থাগুলোর জন্য এর অর্থ হলো, পক্ষপাত পরীক্ষা করা এখন আর কেবল একটি ঐচ্ছিক ভালো অভ্যাস নয়, বরং এটি একটি আইনি বাধ্যবাধকতা।

সূত্র এবং আরও পড়ার জন্য

  1. Buolamwini, J. and Gebru, T., “Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification”, FAT* (2018).
  2. NIST, “Face Recognition Vendor Test (FRVT) Part 3: Demographic Effects”, NISTIR 8280 (2019).
  3. Reuters, “Amazon scraps secret AI recruiting tool that showed bias against women” (2018).
  4. European Union, Artificial Intelligence Act (Regulation 2024/1689).
  5. NIST SP 1270 – Towards a Standard for Identifying and Managing Bias in Artificial Intelligence (2022)
  6. EUR-Lex – Regulation (EU) 2024/1689 (Artificial Intelligence Act), Article 10
  7. Chouldechova, A. (2017). Fair prediction with disparate impact. Big Data, 5(2)
শেয়ার
YulaHub অনুসরণ করুনদিনের সবচেয়ে গুরুত্বপূর্ণ খবর সবার আগে পান।
RSS

একটি মন্তব্য করুন

আপনার ইমেইল ঠিকানা প্রকাশিত হবে না। প্রয়োজনীয় ক্ষেত্রগুলি * দিয়ে চিহ্নিত