AIシステムは「中立的な機械」に見えるかもしれませんが、実際には人間が作成したデータから学習します。そのデータに社会的不平等、過小評価、あるいは過去の誤った決定が含まれている場合、システムはそれらを学習し、時には増幅させます。これがAIにおけるバイアスと呼ばれるものです。
バイアスはどこから来るのか?
- 不均衡なデータ: 学習データにおいて一部のグループの割合が少ない場合、システムはそのグループに対して精度が低下します。
- 過去の反映: 過去の決定に差別があった場合、それを模倣したモデルは差別的な結果を出します。
- 測定とラベル付け: 「成功」の定義が誤っている場合や、ラベル付けを行う人の主観的なバイアスが影響します。
- 利用コンテキスト: ある国やグループ向けに開発されたシステムを、検証なしに異なる環境で使用した場合に発生します。
具体例
MITのジョイ・ブオラムウィニとティムニット・ゲブルによる2018年の研究「Gender Shades」では、商用の性別分類システムが、肌の色が明るい男性に対してはほぼ誤りがない一方で、肌の色が濃い女性に対しては非常に高い誤認識率を示すことが明らかになりました。また、米国国立標準技術研究所(NIST)が2019年に行ったテストでも、多くの顔認識アルゴリズムにおいて人口統計学的グループ間で誤認識率に差があることが判明しました。2018年のロイター通信の報道によると、Amazonは過去の履歴書で学習させ、女性候補者に不利に働いた実験的な採用ツールを廃止しました。
大規模言語モデルや画像生成AIにおいても、特定の職業を特定の性別に結びつけたり、一部の文化をステレオタイプに描いたりするなど、バイアスが現れることがあります。
なぜ問題なのか?
映画のレコメンデーションにおけるバイアスは単に不便なだけですが、採用、信用スコアリング、医療、社会福祉、あるいは司法制度におけるバイアスは、人々の人生に直接的な影響を及ぼします。そのため、EU AI法では、ハイリスクシステムに対してデータの品質、文書化、および人間による監視の要件を定めています。
対処法
- 多様で代表性のあるデータセットを使用する。
- リリース前に異なるグループごとに個別にシステムをテストし、その結果を公開する。
- 決定プロセスを説明できる、監査可能なシステムを設計する。
- 重要な決定の最終判断は人間に委ね、不服申し立ての方法を提供する。
- 開発チームに多様な視点を持つ人々を組み込む。
ユーザーへのヒント
AIツールが生成したテキストや画像を批判的に活用してください。特に、人々やグループ、文化に関する一般化に注意しましょう。自動化された決定によって影響を受けた場合は、その決定がどのように下されたかを確認し、異議を申し立てる権利について調べてください。
バイアスはどう測定されるのか?公平性の指標
モデルにバイアスがあるかどうかを理解するには、グループ間で結果を比較する必要があります。研究者が最も頻繁に使用する指標は以下の通りです。
- 人口統計学的パリティ(Demographic parity): ポジティブな決定(例:ローンの承認)の割合が、異なるグループ間で同様であるかを確認します。
- 等価誤り率(Equal error rates): 偽陽性と偽陰性の率が、グループ間で近いことが期待されます。
- キャリブレーション(Calibration): モデルが「確率70%」と予測した場合、どのグループにおいても実際に約70%の確率で正解である必要があります。
重要な点として、アレクサンドラ・チョルデチョワの2017年の研究では、グループ間でベースレート(基本率)が異なる場合、「キャリブレーション」と「等価誤り率」の両方を同時に完全に満たすことはできないことが示されました。そのため、「公平なモデル」とは単一の数値で決まるものではなく、文脈に応じた意図的な選択であり、その選択の根拠をオープンに記述することが重要です。
法的枠組みと標準
米国国立標準技術研究所(NIST)が2022年に発表したSP 1270レポートでは、AIのバイアスを主に3つのソースに分類しています。すなわち、システム的(制度的・社会的)、統計的/計算的(データやモデルに起因)、および人間的(設計や運用の決定に起因)なものです。同レポートは、この問題が技術的な修正だけで解決できるものではないことを強調しています。
欧州連合の人工知能法(規則 2024/1689)では、採用や信用評価などのハイリスクシステムにおいて、学習データに潜在的なバイアスがないか検討し、それを防止するための適切な措置を講じることが義務付けられています。組織にとって、これはバイアス試験が「推奨される良い習慣」から「法的義務」へと変わったことを意味します。
出典および参考文献
- Buolamwini, J. and Gebru, T., “Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification”, FAT* (2018).
- NIST, “Face Recognition Vendor Test (FRVT) Part 3: Demographic Effects”, NISTIR 8280 (2019).
- Reuters, “Amazon scraps secret AI recruiting tool that showed bias against women” (2018).
- European Union, Artificial Intelligence Act (Regulation 2024/1689).
- NIST SP 1270 – Towards a Standard for Identifying and Managing Bias in Artificial Intelligence (2022)
- EUR-Lex – Regulation (EU) 2024/1689 (Artificial Intelligence Act), Article 10
- Chouldechova, A. (2017). Fair prediction with disparate impact. Big Data, 5(2)
コメントを残す
メールアドレスは公開されません。必須項目は * でマークされています