Chuyển đến nội dung

Tri thức soi sáng thế giới

Định kiến trong AI là gì? Nguồn gốc, ví dụ thực tế và giải pháp

Hệ thống AI có thể học và khuếch đại những bất bình đẳng trong dữ liệu được dùng để huấn luyện. Các ví dụ thực tế về định kiến từ tuyển dụng đến nhận diện khuôn mặt, nguồn gốc của nó, cách đo lường, và các bước mà nhà phát triển và người dùng có thể thực hiện.

Định kiến trong AI là gì? Nguồn gốc, ví dụ thực tế và giải pháp

Hệ thống AI có vẻ như là những "máy trung lập", nhưng chúng học từ dữ liệu do con người tạo ra. Nếu dữ liệu đó chứa đựng bất bình đẳng xã hội, thiếu đại diện hoặc các quyết định sai lầm trong quá khứ, hệ thống sẽ học chúng và đôi khi khuếch đại chúng. Điều này được gọi là định kiến trong AI.

Định kiến đến từ đâu?

  • Dữ liệu không cân bằng: Nếu một số nhóm bị thiếu đại diện trong dữ liệu huấn luyện, hệ thống sẽ hoạt động kém hơn đối với họ.
  • Phản ánh quá khứ: Nếu các quyết định trong quá khứ mang tính phân biệt đối xử, một mô hình bắt chước chúng sẽ tạo ra kết quả phân biệt đối xử.
  • Đo lường và gán nhãn: Định nghĩa sai "thành công", hoặc định kiến của chính người gán nhãn.
  • Bối cảnh sử dụng: Sử dụng một hệ thống được phát triển ở một quốc gia hoặc cho một nhóm người trong bối cảnh khác mà không kiểm tra nó.

Ví dụ thực tế

Nghiên cứu "Gender Shades" năm 2018 của Joy Buolamwini và Timnit Gebru tại MIT cho thấy các hệ thống phân loại giới tính thương mại gần như không có lỗi đối với nam giới da sáng nhưng có tỷ lệ lỗi cao hơn nhiều đối với phụ nữ da sẫm. Các bài kiểm tra của Viện Tiêu chuẩn và Công nghệ Quốc gia Hoa Kỳ (NIST) năm 2019 cũng phát hiện tỷ lệ lỗi khác nhau giữa các nhóm dân số trong nhiều thuật toán nhận diện khuôn mặt. Theo báo cáo của Reuters năm 2018, Amazon đã bỏ qua một công cụ tuyển dụng thử nghiệm được huấn luyện trên các CV trong quá khứ khiến ứng viên nữ bị thiệt thòi.

Các mô hình ngôn ngữ lớn và trình tạo hình ảnh cũng có thể thể hiện định kiến, chẳng hạn như gắn kết nghề nghiệp với giới tính cụ thể hoặc miêu tả một số văn hóa theo cách định kiến.

Tại sao điều này quan trọng?

Định kiến trong gợi ý phim chỉ gây phiền toái; nhưng trong tuyển dụng, chấm điểm tín dụng, chăm sóc y tế, phúc lợi xã hội hoặc hệ thống tư pháp, định kiến có thể ảnh hưởng trực tiếp đến cuộc sống của con người. Đó là lý do Đạo luật AI của EU quy định yêu cầu chất lượng dữ liệu, tài liệu hóa và giám sát bởi con người đối với các hệ thống rủi ro cao.

Cách giải quyết

  • Sử dụng các tập dữ liệu đa dạng, đại diện.
  • Kiểm thử hệ thống riêng biệt trên các nhóm khác nhau trước khi phát hành và công bố kết quả.
  • Thiết kế hệ thống có thể kiểm toán, giải thích được cách thức ra quyết định.
  • Để con người có lời nói cuối cùng đối với các quyết định quan trọng và cung cấp cơ chế kháng nghị.
  • Đưa nhiều góc nhìn khác nhau vào nhóm phát triển.

Mẹo cho người dùng

Sử dụng văn bản và hình ảnh do công cụ AI tạo ra một cách có tư duy phản biện; chú ý đặc biệt đến các khái quát hóa về con người, nhóm người và văn hóa. Khi một quyết định tự động ảnh hưởng đến bạn, hãy tìm hiểu về quyền yêu cầu giải thích cách quyết định được đưa ra và quyền kháng nghị.

Định kiến được đo lường như thế nào? Các chỉ số công bằng

Để hiểu xem một mô hình có bị định kiến hay không, kết quả của nó phải được so sánh giữa các nhóm. Các chỉ số mà các nhà nghiên cứu thường dùng nhất là:

  • Đồng đều về mặt nhân khẩu học (Demographic parity): Kiểm tra xem tỷ lệ quyết định tích cực (ví dụ: phê duyệt vay) có tương tự nhau giữa các nhóm khác nhau hay không.
  • Tỷ lệ lỗi bằng nhau (Equal error rates): Tỷ lệ dương tính giả và âm tính giả được kỳ vọng gần nhau giữa các nhóm.
  • Hiệu chuẩn (Calibration): Khi mô hình nói "xác suất 70 phần trăm", dự đoán đó thực sự phải đúng khoảng 70 phần trăm thời gian trong mọi nhóm.

Một điểm quan trọng: Nghiên cứu năm 2017 của Alexandra Chouldechova chỉ ra rằng khi các nhóm có tỷ lệ cơ sở khác nhau, hiệu chuẩn và tỷ lệ lỗi bằng nhau không thể được thỏa mãn hoàn toàn cùng một lúc. Đó là lý do "mô hình công bằng" không phải là một con số duy nhất mà là một lựa chọn có chủ đích tùy theo bối cảnh, và lý do đằng sau lựa chọn đó nên được công khai minh bạch.

Khung pháp lý và tiêu chuẩn

Trong báo cáo SP 1270 công bố năm 2022, Viện Tiêu chuẩn và Công nghệ Quốc gia Hoa Kỳ (NIST) chia định kiến AI thành ba nguồn chính: hệ thống (thể chế và xã hội), thống kê/tính toán (từ dữ liệu và mô hình) và con người (từ quyết định thiết kế và sử dụng). Báo cáo nhấn mạnh vấn đề không thể giải quyết chỉ bằng các biện pháp kỹ thuật.

Đạo luật Trí tuệ nhân tạo của Liên minh Châu Âu (Quy định 2024/1689) yêu cầu đối với các hệ thống rủi ro cao như tuyển dụng hoặc đánh giá tín dụng, dữ liệu huấn luyện phải được kiểm tra các định kiến tiềm ẩn và phải có biện pháp thích hợp để ngăn chặn chúng. Đối với các tổ chức, điều này có nghĩa là kiểm thử định kiến chuyển từ một thực hành tốt tùy chọn thành một nghĩa vụ pháp lý.

Nguồn tham khảo và đọc thêm

  1. Buolamwini, J. and Gebru, T., "Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification", FAT* (2018).
  2. NIST, "Face Recognition Vendor Test (FRVT) Part 3: Demographic Effects", NISTIR 8280 (2019).
  3. Reuters, "Amazon scraps secret AI recruiting tool that showed bias against women" (2018).
  4. European Union, Artificial Intelligence Act (Regulation 2024/1689).
  5. NIST SP 1270 – Towards a Standard for Identifying and Managing Bias in Artificial Intelligence (2022)
  6. EUR-Lex – Regulation (EU) 2024/1689 (Artificial Intelligence Act), Article 10
  7. Chouldechova, A. (2017). Fair prediction with disparate impact. Big Data, 5(2)
Chia sẻ
Theo dõi YulaHubNhận những tin quan trọng nhất trong ngày sớm nhất.
RSS

Để lại bình luận

Địa chỉ email của bạn sẽ không được công khai. Các trường bắt buộc được đánh dấu *