Lewati ke konten

Pengetahuan yang menerangi dunia

Apa Itu Bias dalam AI? Asalnya, Contoh Nyata, dan Solusi

Sistem AI dapat mempelajari dan memperkuat ketidaksetaraan dalam data yang digunakan untuk melatihnya. Contoh nyata bias mulai dari rekrutmen hingga pengenalan wajah, sumber-sumbernya, cara mengukurnya, serta langkah-langkah yang dapat diambil pengembang dan pengguna.

Apa Itu Bias dalam AI? Asalnya, Contoh Nyata, dan Solusi

Sistem AI mungkin terlihat seperti "mesin netral", tetapi mereka belajar dari data yang dihasilkan oleh manusia. Jika data tersebut mengandung ketidaksetaraan sosial, kurangnya representasi, atau keputusan salah di masa lalu, sistem mempelajarinya dan terkadang memperkuatnya. Inilah yang disebut bias dalam AI.

Dari mana bias berasal?

  • Data tidak seimbang: Jika beberapa kelompok kurang terwakili dalam data latih, sistem bekerja lebih buruk untuk mereka.
  • Mencerminkan masa lalu: Jika keputusan masa lalu bersifat diskriminatif, model yang meniruinya akan menghasilkan hasil yang diskriminatif.
  • Pengukuran dan pelabelan: Mendefinisikan "keberhasilan" dengan salah, atau bias dari pelabel data itu sendiri.
  • Konteks penggunaan: Menggunakan sistem yang dikembangkan di satu negara atau kelompok di pengaturan yang berbeda tanpa memeriksanya.

Contoh nyata

Studi "Gender Shades" 2018 oleh Joy Buolamwini dan Timnit Gebru dari MIT menunjukkan bahwa sistem klasifikasi gender komersial hampir bebas kesalahan untuk pria berkulit cerah, tetapi memiliki tingkat kesalahan jauh lebih tinggi untuk wanita berkulit gelap. Pengujian oleh National Institute of Standards and Technology (NIST) AS pada 2019 juga menemukan tingkat kesalahan yang berbeda di seluruh kelompok demografis dalam banyak algoritma pengenalan wajah. Menurut laporan Reuters 2018, Amazon menghentikan alat rekrutmen eksperimental yang dilatih pada CV masa lalu yang merugikan kandidat wanita.

Model bahasa besar dan generator gambar juga dapat menunjukkan bias, seperti menghubungkan pekerjaan dengan gender tertentu atau menggambarkan beberapa budaya dengan cara yang stereotip.

Mengapa ini penting?

Bias dalam rekomendasi film hanya mengganggu; tetapi dalam rekrutmen, penilaian kredit, perawatan kesehatan, bantuan sosial, atau sistem keadilan, bias dapat langsung memengaruhi kehidupan orang. Itulah sebabnya EU AI Act menetapkan persyaratan kualitas data, dokumentasi, dan pengawasan manusia untuk sistem berisiko tinggi.

Cara mengatasinya

  • Gunakan kumpulan data yang beragam dan representatif.
  • Uji sistem secara terpisah di berbagai kelompok sebelum dirilis dan publikasikan hasilnya.
  • Rancang sistem yang dapat diaudit dan dapat menjelaskan bagaimana keputusan dibuat.
  • Serahkan keputusan akhir pada hal-hal penting kepada manusia dan sediakan cara untuk mengajukan banding.
  • Sertakan perspektif yang berbeda dalam tim pengembangan.

Tips untuk pengguna

Gunakan teks dan gambar yang dihasilkan oleh alat AI secara kritis; perhatikan terutama generalisasi tentang orang, kelompok, dan budaya. Saat keputusan otomatis memengaruhi Anda, cari tahu hak Anda untuk menanyakan bagaimana keputusan itu dibuat dan untuk menantangnya.

Bagaimana bias diukur? Metrik keadilan

Untuk memahami apakah sebuah model bias, hasilnya harus dibandingkan di seluruh kelompok. Metrik yang paling sering digunakan peneliti adalah:

  • Paritas demografis: Memeriksa apakah tingkat keputusan positif (misalnya, persetujuan pinjaman) serupa di berbagai kelompok.
  • Tingkat kesalahan yang sama: Tingkat false positive dan false negative diharapkan mendekati antara kelompok.
  • Kalibrasi: Ketika model mengatakan "probabilitas 70 persen", prediksi itu seharusnya benar sekitar 70 persen waktu di setiap kelompok.

Poin penting: Studi Alexandra Chouldechova 2017 menunjukkan bahwa ketika kelompok memiliki tingkat dasar yang berbeda, kalibrasi dan tingkat kesalahan yang sama tidak keduanya dapat dipenuhi sepenuhnya pada saat yang bersamaan. Inilah mengapa "model adil" bukanlah angka tunggal melainkan pilihan sadar yang dibuat sesuai konteks, dan alasan di balik pilihan itu harus ditulis secara terbuka.

Kerangka hukum dan standar

Dalam laporan SP 1270 yang diterbitkan pada 2022, US National Institute of Standards and Technology (NIST) membagi bias AI menjadi tiga sumber utama: sistemik (institusional dan sosial), statistik/komputasional (berasal dari data dan model), dan manusia (berasal dari keputusan desain dan penggunaan). Laporan menekankan bahwa masalah ini tidak dapat diselesaikan hanya dengan perbaikan teknis.

Artificial Intelligence Act Uni Eropa (Regulasi 2024/1689) mewajibkan bahwa, dalam sistem berisiko tinggi seperti rekrutmen atau penilaian kredit, data latih diperiksa untuk kemungkinan bias dan langkah-langkah yang tepat diambil untuk mencegahnya. Bagi organisasi, ini berarti pengujian bias berubah dari praktik baik opsional menjadi kewajiban hukum.

Sumber dan bacaan lebih lanjut

  1. Buolamwini, J. and Gebru, T., "Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification", FAT* (2018).
  2. NIST, "Face Recognition Vendor Test (FRVT) Part 3: Demographic Effects", NISTIR 8280 (2019).
  3. Reuters, "Amazon scraps secret AI recruiting tool that showed bias against women" (2018).
  4. European Union, Artificial Intelligence Act (Regulation 2024/1689).
  5. NIST SP 1270 – Towards a Standard for Identifying and Managing Bias in Artificial Intelligence (2022)
  6. EUR-Lex – Regulation (EU) 2024/1689 (Artificial Intelligence Act), Article 10
  7. Chouldechova, A. (2017). Fair prediction with disparate impact. Big Data, 5(2)
Bagikan
Ikuti YulaHubDapatkan berita terpenting hari ini lebih dulu.
RSS

Tinggalkan komentar

Alamat email Anda tidak akan dipublikasikan. Kolom yang wajib diisi ditandai *