Chatbot AI dapat memberikan jawaban yang rapi dan percaya diri dalam hitungan detik. Namun, beberapa jawaban tersebut mungkin berisi buku yang tidak ada, kutipan yang tidak pernah diucapkan, atau tanggal yang salah. Ketika AI menghasilkan informasi yang lancar tetapi salah seperti ini, itu disebut “halusinasi”. Ini adalah salah satu batasan paling penting yang perlu dipahami saat menggunakan AI sebagai alat yang membantu.
Mengapa halusinasi terjadi?
Model bahasa besar memprediksi kata berikutnya yang paling mungkin dalam sebuah kalimat berdasarkan pola yang dipelajari dari data dalam jumlah besar. Mereka tidak mencari sesuatu dalam database dan tidak secara inheren tahu apakah apa yang mereka katakan itu benar. Jika sebuah model belum melihat cukup data yang konsisten tentang suatu topik, ia dapat menghasilkan jawaban yang terdengar benar alih-alih mengatakan “Saya tidak tahu”. Perlu diingat juga bahwa pelatihan model berakhir pada tanggal tertentu, sehingga ia mungkin tidak mengetahui peristiwa baru-baru ini atau dapat menyajikan informasi lama sebagai informasi saat ini.
Di mana hal itu paling umum?
- Sumber dan referensi: Artikel, buku, atau alamat web yang tampak realistis tetapi tidak ada.
- Kutipan: Kata-kata yang diatribusikan kepada orang terkenal yang tidak pernah mereka ucapkan.
- Angka dan tanggal: Statistik, persentase, tanggal lahir dan kematian.
- Topik yang jarang diketahui: Orang lokal, organisasi kecil, produk baru, dan bidang khusus.
- Hukum, kedokteran, dan keuangan: Area di mana informasi yang salah dapat memiliki konsekuensi serius.
Contoh kehidupan nyata
Dalam sebuah kasus di Amerika Serikat pada tahun 2023, para pengacara mengutip keputusan pengadilan yang dihasilkan oleh chatbot sebagai preseden dalam pengajuan mereka, keputusan yang sebenarnya tidak ada. Hakim menemukan bahwa kasus-kasus tersebut dibuat-buat dan para pengacara didenda. Episode ini menjadi salah satu contoh paling terkenal tentang risiko menggunakan keluaran AI dalam pekerjaan resmi tanpa memeriksanya.
Cara melindungi diri Anda
- Minta sumber dan periksa: Klik tautannya dan benar-benar cari buku atau artikel tersebut.
- Verifikasi informasi penting pada sumber utama: Andalkan halaman badan resmi, penerbit, atau ahli.
- Gunakan alat berbasis pencarian untuk topik saat ini: Asisten yang mencari web dan mengutip sumber lebih dapat diandalkan pada topik saat ini, tetapi mereka juga dapat membuat kesalahan.
- Tanyakan tentang ketidakpastian: Pertanyaan seperti “Seberapa yakin Anda, dan bagian mana yang diperdebatkan?” dapat mengungkap titik lemah.
- Tanyakan pertanyaan yang sama dengan cara yang berbeda: Berhati-hatilah jika jawabannya saling bertentangan.
- Konsultasikan dengan ahli mengenai kesehatan, hukum, dan uang: AI dapat berguna untuk latar belakang, tetapi tidak menggantikan nasihat profesional.
Apa yang dilakukan para pengembang?
Perusahaan AI sedang mengembangkan metode pelatihan yang mendorong model untuk mengatakan ketika mereka tidak yakin, teknik “retrieval-augmented generation” (RAG) yang mendasarkan jawaban pada dokumen yang andal, dan fitur kutipan. Metode ini mengurangi kesalahan tetapi tidak menghilangkannya. Pendekatan yang paling aman adalah memperlakukan AI sebagai mitra penyusunan dan bertukar pikiran serta menyerahkan keputusan akhir pada informasi yang terverifikasi.
Pertanyaan yang sering diajukan
Apakah halusinasi hanya terjadi pada AI penghasil teks?
Tidak. Model penghasil gambar juga dapat menambahkan detail yang tidak ada, seperti tangan dengan jari ekstra atau teks yang tidak bermakna. Kesalahan serupa dapat muncul dalam model audio dan video.
Sumber dan bacaan lebih lanjut
- Mata v. Avianca, Inc., U.S. District Court for the Southern District of New York, perintah sanksi 22 Juni 2023.
- NIST, “Artificial Intelligence Risk Management Framework: Generative AI Profile” (NIST AI 600-1), 2024.
- Ziwei Ji et al., “Survey of Hallucination in Natural Language Generation”, ACM Computing Surveys, 2023.
Tinggalkan komentar
Alamat email Anda tidak akan dipublikasikan. Kolom yang wajib diisi ditandai *