Một video của người nổi tiếng nói những điều họ chưa từng nói, hoặc một yêu cầu cấp bách gửi tiền bằng giọng nói của người thân... Được gọi là "deepfake", những thứ này được tạo ra bằng các mô hình AI mô phỏng khuôn mặt, giọng nói hoặc chuyển động của một người. Công nghệ này có ứng dụng hữu ích trong làm phim, lồng tiếng và giáo dục, nhưng cũng có thể bị lạm dụng cho gian lận và tin giả.
Chúng được tạo ra như thế nào?
Hệ thống deepfake học từ nhiều bức ảnh, video hoặc mẫu giọng nói của một người và bắt chước biểu cảm khuôn mặt và cách nói chuyện của họ. Nơi mà trước đây cần hàng giờ ghi âm, một số công cụ nhân bản giọng nói ngày nay có thể tạo ra kết quả thuyết phục từ một mẫu ngắn.
Những dấu hiệu có thể làm lộ video giả
- Mắt và nháy mắt: Nhìn không tự nhiên, nháy mắt rất ít hoặc không đều đặn.
- Miệng và đồng bộ âm thanh: Chuyển động môi không khớp hoàn toàn với lời nói.
- Các cạnh của khuôn mặt: Làm mờ hoặc nhấp nháy quanh đường tóc, tai và hàm.
- Ánh sáng và bóng: Ánh sáng trên khuôn mặt không khớp với phần còn lại của cảnh.
- Da và chi tiết: Da quá mịn, răng kỳ lạ, hoặc trang sức và kính trông không nhất quán.
Nhưng vì công nghệ đang cải tiến nhanh chóng, những dấu hiệu này không phải lúc nào cũng hiệu quả. Cách tiếp cận tin cậy nhất là đặt câu hỏi về bối cảnh thay vì chính nội dung.
Đặt câu hỏi về bối cảnh
- Nguồn gốc là gì? Video được đăng tải lần đầu ở đâu? Các tổ chức tin tức uy tín có xác nhận nó không?
- Nó có đang cố khiêu khích bạn? Nội dung được thiết kế để kích động giận dữ, sợ hãi hoặc cấp bách đáng bị nghi ngờ hơn.
- Tìm kiếm hình ảnh ngược: Kiểm tra xem một khung hình từ video có từng xuất hiện trực tuyến trước đây trong bối cảnh khác không.
Chống lại các vụ lừa đảo nhân bản giọng nói
Nếu bạn nhận được cuộc gọi bằng giọng người thân cấp bách xin tiền, đừng hành động trong hoang mang. Riêng máy và gọi lại cho người đó trên số bạn biết. Thống nhất một "mật khẩu an toàn" gia đình mà chỉ bạn biết là một cách đơn giản, hiệu quả để đánh bại những cố gắng như vậy. Trong doanh nghiệp, các lệnh thanh toán bằng giọng nói nên được xác minh qua kênh thứ hai.
Dòng phòng thủ mạnh mẽ nhất chống lại deepfake là thói quen chứ không phải công nghệ: dừng lại trước khi chia sẻ, xác minh, và xem sự hoài nghi không phải là điểm yếu mà là một kỹ năng.
Công cụ xác minh và chứng thực nội dung
Có một số cách thực tế để biết video hoặc ảnh có thật không:
- Tìm kiếm hình ảnh ngược: Tìm kiếm hình ảnh, hoặc một khung hình lấy từ video, trên các công cụ tìm kiếm cho thấy nội dung giống nhau có từng được đăng tải trước đây trong bối cảnh khác không.
- Chứng thực nội dung: Tiêu chuẩn C2PA do các công ty công nghệ và truyền thông tạo ra cho phép gắn một "nhãn" số cho thấy hình ảnh được sản xuất và chỉnh sửa như thế nào. Trên các nền tảng hỗ trợ thông tin này, bạn có thể thấy nội dung được tạo ra bằng AI.
- Nền tảng kiểm tra sự thật: Các tổ chức kiểm tra sự thật độc lập kiểm tra nội dung đáng ngờ lan truyền trực tuyến và công bố kết quả của họ.
Không công cụ nào đưa ra câu trả lời xác định chỉ bằng chính nó; phương pháp tin cậy nhất là xác minh nội dung với nhiều hơn một nguồn đáng tin cậy.
Khung pháp lý: yêu cầu gắn nhãn đang đến
Việc lạm dụng nội dung deepfake đang nằm trên chương trình lập pháp của nhiều quốc gia. Đạo luật AI của Liên minh Châu Âu chứa các nghĩa vụ minh bạch yêu cầu hình ảnh, âm thanh và video được tạo ra hoặc chỉnh sửa bằng AI phải được gắn nhãn là như vậy; các quy tắc này dự kiến áp dụng từ năm 2026. Việc sử dụng giọng nói hoặc hình ảnh của một người mà không có sự đồng ý của họ để bắt chước họ nhằm gian lận hoặc bôi nhọ đã là tội phạm ở nhiều quốc gia. Nếu bạn nghĩ mình đã bị nhắm mục tiêu bởi nội dung như vậy, hãy giữ bằng chứng, báo cáo cho nền tảng và tìm kiếm hỗ trợ pháp lý nếu cần.
Cơ sở công nghệ và khái niệm khung
Việc sản xuất nội dung dựa trên AI khác biệt cơ bản với các phương pháp chỉnh sửa kỹ thuật số truyền thống. Trong khi các phương pháp cổ điển đòi hỏi công việc kỹ thuật chuyên sâu và can thiệp của con người để thay đổi một hình ảnh, công nghệ deepfake sử dụng các thuật toán học từ dữ liệu. Trong quá trình này, phần mềm phân tích dữ liệu thị giác và thính giác được cung cấp, học các mẫu, kết cấu và đặc điểm đặc trưng. Nội dung kết quả không chỉ đơn thuần là một bản ghép, mà là một tổng hợp mới được xây dựng bởi trí tuệ nhân tạo dựa trên dữ liệu nó đã học.
Khái niệm cốt lõi nằm وراء công nghệ này là các kỷ luật học máy và học sâu. Hệ thống máy tính xử lý dữ liệu phức tạp thông qua các mạng nơ-ron nhân tạo lấy cảm hứng từ nguyên lý hoạt động của não bộ con người. Các mạng này nắm bắt chuyển động khuôn mặt, ngữ điệu giọng nói hoặc điều kiện ánh sáng môi trường dưới dạng các mô hình toán học. Kết quả là một môi trường kỹ thuật số nổi lên nơi ranh giới giữa thật và giả ngày càng mờ nhạt.
Cấu trúc thuật toán trong quy trình sản xuất
Một trong những phương pháp được sử dụng rộng rãi trong sản xuất deepfake là hoạt động đồng thời của các mô hình trí tuệ nhân tạo cạnh tranh. Trong quy trình này, trong khi một mô hình cố gắng tạo ra nội dung, mô hình kia giám sát xem nội dung được tạo ra có xác thực hay không. Sự tương tác liên tục này cho phép nội dung được tạo ra trở nên thuyết phục hơn ở mọi giai đoạn. Quy trình bao gồm các giai đoạn cơ bản sau:
- Trong giai đoạn thu thập và chuẩn bị dữ liệu, nhiều mẫu thị giác và thính giác của đối tượng mục tiêu được đưa vào hệ thống.
- Trong giai đoạn học tập, các thuật toán phân tích đặc điểm khuôn mặt, biểu cảm và nhịp nói của người đó.
- Trong giai đoạn tổng hợp, nội dung mới và nhân tạo được tạo ra bằng thông tin đã thu được.
- Trong giai đoạn kiểm tra, hệ thống liên tục cải tiến bằng cách phát hiện lỗi để làm cho nội dung thực tế hơn.
Cấu trúc tuần hoàn này cho phép trí tuệ nhân tạo tiếp cận sự hoàn hảo bằng cách học từ chính sai lầm của nó. Khi mô hình phát triển, ngay cả những chi tiết nhỏ mà mắt người không thể nhận thấy cũng có thể được bắt chước thành công.
Niềm tin xã hội và rủi ro tin giả
Việc sử dụng rộng rãi công nghệ deepfake có tiềm năng làm suy yếu cơ bản niềm tin vào thông tin. Suy nghĩ rằng một video hoặc bản ghi âm thực tế có thể là giả tạo có thể tạo ra làn sóng hoài nghi chung trong xã hội. Tình huống này có thể dẫn không chỉ đến việc chấp nhận nội dung giả mà còn đến việc bác bỏ các sự kiện và bằng chứng thực tế bằng cách gán mác chúng là giả. Hiện tượng này có thể làm sâu sắc phân cực xã hội bằng cách tăng tác động của tin giả.
Quy trình xác minh độ chính xác của thông tin đã trở nên phức tạp hơn bao giờ hết trong kỷ nguyên số. Niềm tin không lay chuyển của con người vào những gì họ thấy và nghe cho phép nội dung thao túng dễ dàng tìm thấy đối tượng mục tiêu. Do đó, đặt câu hỏi về độ chính xác của nội dung kỹ thuật số đã không chỉ là vấn đề kỹ thuật, mà còn là trách nhiệm xã hội.
An ninh doanh nghiệp và đánh cắp danh tính
Trong thế giới doanh nghiệp, deepfake tạo ra rủi ro an ninh nghiêm trọng. Việc mạo danh các nhà quản điều hành công ty qua giọng nói hoặc video có thể được sử dụng để thực hiện các giao dịch trái phép hoặc rò rỉ thông tin nhạy cảm. Đặc biệt với việc áp dụng rộng rãi các mô hình làm việc từ xa, các quy trình xác minh danh tính được thực hiện qua hội nghị video đã trở nên dễ bị tấn công hơn bởi các cuộc tấn công như vậy.
Trong khi các hệ thống an ninh sinh trắc học thực hiện xác minh danh tính qua các phương pháp như nhận diện khuôn mặt hoặc phân tích giọng nói, các mô hình AI tiên tiến có thể cố gắng lừa dối các hệ thống này. Tình huống này buộc các doanh nghiệp phải cấu trúc lại chiến lược an ninh mạng của họ để không chỉ bao gồm các phương pháp dựa trên phần mềm mà còn cả các phương pháp xác minh tập trung vào con người và nhiều lớp.
Tầm quan trọng của sự am hiểu kỹ thuật số
Một trong những đường phòng thủ hiệu quả nhất chống lại các phát triển công nghệ là nâng cao mức độ am hiểu kỹ thuật số của cá nhân. Sự am hiểu kỹ thuật số không chỉ bao gồm việc sử dụng công nghệ mà còn bao gồm khả năng phân tích nguồn gốc, mục đích và độ chính xác của nội dung gặp phải. Hiểu tại sao nội dung được chia sẻ và nó nhằm kích hoạt cảm xúc gì cho phép cá nhân xây dựng sự đề kháng chống lại thao túng.
Tầm quan trọng được đặt cho am hiểu truyền thông trong các quá trình giáo dục đóng vai trò then chốt trong kỷ nguyên trí tuệ nhân tạo. Kỹ năng tư duy phản biện là công cụ cơ bản nhất được sử dụng khi đặt câu hỏi về tính xác thực của video hoặc âm thanh. Thay vì chấp nhận thông tin trực tiếp, phát triển thói quen xác minh nó qua các nguồn khác nhau đóng vai trò như một khiên bảo vệ cá nhân trước làn sóng tin giả trong thế giới kỹ thuật số.
Cơ chế phòng thủ công nghệ
Các phương pháp phòng thủ được phát triển chống lại nội dung do AI tạo ra đang tiến hóa với cùng tốc độ. Cuộc đấu tranh trong lĩnh vực này có thể được mô tả như một cuộc đua công nghệ. Trong khi việc sản xuất nội dung trở nên dễ dàng hơn ở một bên, các công cụ phân tích dựa trên AI tiên tiến hơn đang được phát triển ở bên kia để phát hiện nội dung như vậy. Các công cụ này có thể phát hiện những sự không nhất quán vi mô và dấu vết kỹ thuật số mà mắt người có thể bỏ lỡ.
Trong tương lai, dự kiến các hệ thống toàn diện hơn có khả năng theo dõi nguồn gốc và lịch sử sửa đổi của nội dung sẽ được sử dụng. Việc tích hợp các phương pháp như công nghệ blockchain để bảo vệ tính nguyên bản của tài sản kỹ thuật số có thể cung cấp các tiêu chuẩn mới để chứng minh độ tin cậy của nội dung. Các lớp phòng thủ công nghệ này phải được cập nhật liên tục để đảm bảo an ninh cho hệ sinh thái kỹ thuật số.
Nguồn và đọc thêm
- C2PA (Liên minh Chứng thực và Nguồn gốc Nội dung) – Tiêu chuẩn Chứng thực Nội dung
- Liên minh Châu Âu – Đạo luật AI, Quy định (EU) 2024/1689, nghĩa vụ minh bạch (Điều 50)
Để lại bình luận
Địa chỉ email của bạn sẽ không được công khai. Các trường bắt buộc được đánh dấu *