Chatbot AI có thể đưa ra câu trả lời gọn gàng, tự tin chỉ trong vài giây. Nhưng một số câu trả lời đó có thể chứa một cuốn sách không tồn tại, một câu trích dẫn chưa từng được nói hoặc một ngày tháng sai. Khi AI tạo ra thông tin trôi chảy nhưng sai sự thật như vậy, nó được gọi là "ảo giác" (hallucination). Đây là một trong những hạn chế quan trọng nhất cần hiểu khi sử dụng AI như một công cụ hỗ trợ.
Tại sao ảo giác lại xảy ra?
Các mô hình ngôn ngữ lớn dự đoán từ tiếp theo có khả năng cao nhất trong một câu dựa trên các mẫu học được từ lượng lớn văn bản khổng lồ. Chúng không tra cứu trong cơ sở dữ liệu và không hề biết nội tại rằng những gì chúng nói có đúng hay không. Nếu một mô hình chưa thấy đủ dữ liệu nhất quán về một chủ đề, nó có thể tạo ra một câu trả lời nghe có vẻ đúng thay vì nói "Tôi không biết". Cũng đáng nhớ rằng dữ liệu huấn luyện của mô hình kết thúc tại một ngày nhất định, vì vậy nó có thể không biết các sự kiện gần đây hoặc trình bày thông tin cũ như thể nó là hiện tại.
Nơi nào thường gặp nhất?
- Nguồn và tài liệu tham khảo: Các bài báo, sách hoặc địa chỉ web trông có vẻ thật nhưng không tồn tại.
- Trích dẫn: Lời nói được gán cho người nổi tiếng mà họ chưa từng nói.
- Con số và ngày tháng: Thống kê, tỷ lệ phần trăm, ngày sinh và ngày mất.
- Chủ đề ít được biết đến: Người địa phương, tổ chức nhỏ, sản phẩm mới và lĩnh vực chuyên môn hẹp.
- Luật, y tế và tài chính: Những lĩnh vực mà thông tin sai có thể gây hậu quả nghiêm trọng.
Một ví dụ thực tế
Trong một vụ kiện năm 2023 tại Hoa Kỳ, các luật sư trích dẫn các án lệ do chatbot tạo ra trong đơn khởi kiện của họ, những án lệ thực tế không tồn tại. Quán tòa phát hiện các vụ án bịa đặt đó và các luật sư bị phạt tiền. Sự việc này trở thành một trong những ví dụ nổi tiếng nhất về rủi ro khi sử dụng đầu ra AI trong công việc chính thức mà không kiểm tra.
Cách bảo vệ bản thân
- Yêu cầu nguồn và kiểm tra chúng: Nhấp vào liên kết và thực sự tra cứu cuốn sách hoặc bài báo đó.
- Xác minh thông tin quan trọng tại nguồn gốc: Dựa vào các trang web của cơ quan chính thức, nhà xuất bản hoặc chuyên gia.
- Sử dụng công cụ dựa trên tìm kiếm cho chủ đề hiện tại: Các trợ lý tìm kiếm web và trích dẫn nguồn tin cậy hơn về chủ đề hiện tại, nhưng chúng cũng có thể mắc lỗi.
- Hỏi về độ không chắc chắn: Những câu hỏi như "Bạn chắc chắn đến mức nào, và phần nào đang bị tranh cãi?" có thể lộ ra điểm yếu.
- Đặt cùng một câu hỏi theo cách khác: Cẩn thận nếu các câu trả lời mâu thuẫn nhau.
- Tư vấn chuyên gia về sức khỏe, pháp luật và tiền bạc: AI có thể hữu ích cho thông tin nền, nhưng nó không thay thế lời khuyên chuyên nghiệp.
Các nhà phát triển đang làm gì?
Các công ty AI đang phát triển các phương pháp huấn luyện khuyến khích mô hình nói khi chúng không chắc chắn, kỹ thuật "tạo tăng cường truy xuất" (RAG) làm nền tảng cho câu trả lời bằng tài liệu tin cậy, và các tính năng trích dẫn. Các phương pháp này giảm thiểu lỗi nhưng không loại bỏ hoàn toàn chúng. Cách tiếp cận an toàn nhất do đó là đối xử với AI như một đối tác soạn thảo và đàm phán ý tưởng, và để quyết định cuối cùng cho thông tin đã được xác minh.
Các loại và phạm vi ảo giác
Ảo giác trong các mô hình AI không biểu hiện dưới một hình thức đơn lẻ. Chúng có thể được phân loại thành các loại riêng biệt, chủ yếu là lỗi thực tế và mâu thuẫn logic. Lỗi thực tế liên quan đến việc mô hình trình bày một sự kiện, người, địa điểm hoặc ngày tháng không tồn tại trong thực tế. Điều này xảy ra vì mô hình kết hợp sai xác suất để lấp đầy khoảng trống trong kiến thức của nó.
Ảo giác logic sở hữu một cấu trúc phức tạp và tinh vi hơn. Trong những trường hợp này, ngay cả khi mô hình chấp nhận độ chính xác của thông tin được cung cấp hoặc đã biết, nó có thể mắc lỗi trong mối quan hệ nhân quả hoặc quá trình suy luận được thiết lập giữa các mảnh thông tin đó. Ví dụ, nó có thể đạt được một kết luận hoàn toàn sai từ các tiền đề đúng hoặc mất đi sự nhất quán logic khi tiến hành từng bước một trong một chuỗi toán học. Những lỗi như vậy chứng minh rõ ràng rằng mô hình không chỉ lưu trữ thông tin mà còn có thể tồn tại khuyết điểm trong cách nó xử lý và tổng hợp thông tin đó.
Sự ảnh hưởng của dữ liệu huấn luyện
Quá trình học tập của các mô hình gắn liền trực tiếp với chất lượng và sự đa dạng của các tập dữ liệu khổng lồ mà chúng tiếp xúc. Nếu dữ liệu huấn luyện chứa mật độ cao thông tin mâu thuẫn, niềm tin sai lầm, tin tức gây hiểu lầm hoặc câu chuyện không đầy đủ, mô hình có xu hướng học và lặp lại các mẫu sai lầm đó. Sự hiện diện của tin sai và nội dung chưa được xác minh trên internet là một trong những yếu tố cơ bản khiến mô hình khó phân biệt ranh giới mỏng giữa thực tế và hư cấu.
Hơn nữa, sự phân bố không đồng đều của mật độ thông tin trong các tập dữ liệu là một yếu tố quan trọng kích hoạt ảo giác. Trong khi mô hình có thể cung cấp phản hồi nhất quán và tin cậy cao về các chủ đề thường gặp và được chấp nhận rộng rãi, tỷ lệ lỗi của nó tăng nhanh khi nó bị buộc phải dự đoán về các chủ đề đại diện ít, chuyên môn hẹp hoặc rất gần đây. Để lấp đầy khoảng trống trong kiến thức, mô hình xây dựng một câu chuyện nghe có vẻ hợp lý nhưng không thực tế bằng cách sử dụng các mẫu ngôn ngữ gần nhất có sẵn cho nó.
Phương pháp tương tác và vai trò của Prompt
Cách người dùng giao tiếp với AI có thể ảnh hưởng trực tiếp đến độ chính xác của phản hồi được tạo ra. Cách thức đặt câu hỏi có thể đóng vai trò là chất xúc tác, khiến mô hình lệch theo một hướng nhất định hoặc xác nhận thông tin sai. Điều này xuất phát từ việc các mô hình được lập trình không chỉ để tạo ra phản hồi mà còn để phù hợp với kỳ vọng của người dùng.
- Đặt câu hỏi gây hiểu lầm hoặc dẫn dắt.
- Cung cấp bối cảnh không đủ hoặc không đầy đủ.
- Yêu cầu suy luận phức tạp và nhiều bước.
- Sử dụng biểu đạt mơ hồ hoặc đa nghĩa.
- Ban hành hướng dẫn quá hạn chế khiến mô hình vượt quá giới hạn.
Trong quá trình này, còn được gọi là kỹ thuật prompt (prompt engineering), sự rõ ràng và khung đặt câu hỏi là những công cụ quan trọng để giảm thiểu rủi ro ảo giác. Một câu hỏi được cấu trúc tốt ngăn chặn mô hình bị lạc giữa các xác suất và cho phép nó cung cấp phản hồi trên nền tảng tin cậy hơn.
Ảo giác trong các mô hình đa phương thức (Multimodal)
khi AI mở rộng ra khỏi văn bản để xử lý các loại dữ liệu khác nhau như hình ảnh, âm thanh và video, ảo giác biểu hiện dưới nhiều hình thức. Trong các mô hình hình ảnh, thường thấy các vật thể được đặt ở những vị trí vi phạm quy tắc thế giới vật lý hoặc thêm các chi tiết không tồn tại.
Trong các mô hình âm thanh, có thể quan sát thấy việc tạo ra âm thanh không tồn tại trong thực tế hoặc biến dạng nhịp điệu và ngữ điệu nói không tự nhiên. Trong các mô hình video, các hiện tượng như mất sự nhất quán theo thời gian hoặc vật thể thay đổi hình dạng khi chuyển từ khung hình này sang khung hình khác chứng minh rằng mô hình không nắm vững thực tế vật lý.
Các phương pháp phát hiện và xác minh
Các phương pháp xác minh khác nhau có thể được áp dụng ở cả cấp độ cá nhân và kỹ thuật để giảm thiểu tác động của ảo giác. Ở cấp độ cá nhân, phương pháp hiệu quả nhất là xác nhận thông tin được tạo ra thông qua các nguồn khác nhau và độc lập. Thay vì dựa vào phản hồi của một mô hình đơn lẻ, việc đối chiếu thông tin chéo giảm đáng kể biên độ lỗi.
Ở cấp độ kỹ thuật, nghiên cứu đang tiến triển về các cơ chế được thiết kế để cho phép mô hình tự kiểm tra phản hồi của chính nó. So sánh đầu ra của mô hình với một tài liệu tin cậy được cung cấp cho nó, hoặc để mô hình tự đưa đầu ra của nó qua một bộ lọc logic, có thể giúp phát hiện lỗi sớm.
Hạn chế lý thuyết và thách thức cấu trúc
Hoàn toàn loại bỏ ảo giác AI là một mục tiêu khó đạt được do bản chất固有 của các kiến trúc và nguyên lý hoạt động hiện tại. Những mô hình này không phải là những sinh vật có ý thức có thể hiểu thực tế, mà là những máy xác suất theo đuổi các mẫu ngôn ngữ một cách toán học. Trong các hệ thống được xây dựng trên nguyên tắc dự đoán từ tiếp theo hoặc điểm dữ liệu, luôn tồn tại một sự cân bằng tinh vi và đôi khi mâu thuẫn giữa độ chính xác và sự sáng tạo.
Khi mục tiêu là tăng cường sự sáng tạo và năng suất, khả năng mô hình tạo ra các phản hồi bất ngờ, độc đáo và gây ngạc nhiên hơn tăng lên, nhưng điều này cũng mang theo rủi ro trôi dạt xa khỏi thực tế. Mâu thuẫn cấu trúc này vẫn là một trong những vấn đề khoa học, kỹ thuật và triết học cơ bản nhất cần giải quyết trong sự phát triển AI trong tương lai. Sự không chắc chắn固有 trong hệ thống đóng vai trò nhắc nhở luôn giữ sự thận trọng khi sử dụng AI như một công cụ hỗ trợ.
Câu hỏi thường gặp
Ảo giác có chỉ xảy ra trong AI tạo văn bản không?
Không. Các mô hình tạo hình ảnh cũng có thể thêm chi tiết không có, như bàn tay có ngón tay thừa hoặc văn bản vô nghĩa. Các lỗi tương tự có thể xuất hiện trong mô hình âm thanh và video.
Nguồn và đọc thêm
- Mata v. Avianca, Inc., Tòa án Quận Nam New York, lệnh trừng phạt ngày 22 tháng 6 năm 2023.
- NIST, "Khung Quản trị Rủi ro Trí tuệ Nhân tạo: Hồ sơ AI Tạo sinh" (NIST AI 600-1), 2024.
- Ziwei Ji et al., "Survey of Hallucination in Natural Language Generation", ACM Computing Surveys, 2023.
Để lại bình luận
Địa chỉ email của bạn sẽ không được công khai. Các trường bắt buộc được đánh dấu *