Liên hợp quốc kêu gọi tăng cường phát hiện giả mạo do AI tạo ra

Liên hợp quốc thông qua Liên minh Viễn thông Quốc tế (ITU), trong một báo cáo công bố hôm nay, kêu gọi các công ty sử dụng các công cụ tiên tiến để phát hiện và loại bỏ thông tin sai lệch cũng như nội dung deepfake - giả mạo chuyên sâu, nhằm đối phó với nguy cơ ngày càng tăng về can thiệp bầu cử và gian lận tài chính.

Liên hợp quốc kêu gọi các công ty sử dụng các công cụ tiên tiến để phát hiện và loại bỏ thông tin sai lệch cũng như nội dung giả̉ mạo.

Báo cáo được công bố tại "Hội nghị AI vì Điều tốt" ở Geneva, ITU cho biết các deepfake như hình ảnh, video và âm thanh do AI tạo ra, mô phỏng người thật một cách thuyết phục (thay đổi khuôn mặt, giọng nói hoặc hành động), khiến nội dung trông như thật đến mức khó phân biệt, đang đặt ra những rủi ro ngày càng lớn.

ITU kêu gọi xây dựng các tiêu chuẩn mạnh mẽ để chống lại đa phương tiện bị thao túng và khuyến nghị các nền tảng phân phối nội dung như mạng xã hội sử dụng công cụ xác minh kỹ thuật số để xác thực hình ảnh và video trước khi chia sẻ.

"Độ tin cậy vào mạng xã hội đã giảm đáng kể vì mọi người không biết đâu là thật, đâu là giả", Trưởng phòng Nhóm Nghiên cứu tại Cục Tiêu chuẩn hóa của ITU, Bilel Jamoussi nhận định. Ông nói rằng việc chống lại deepfake là một thách thức lớn do khả năng tạo ra đa phương tiện chân thực của AI tạo sinh.

Chuyên gia Leonard Rosenthol từ Adobe, công ty dẫn đầu về phần mềm chỉnh sửa kỹ thuật số đã giải quyết vấn đề deepfake từ năm 2019, nhấn mạnh tầm quan trọng của việc xác định nguồn gốc nội dung số để giúp người dùng đánh giá độ tin cậy.

"Chúng ta cần nhiều nền tảng nơi người dùng tiêu thụ nội dung hiển thị thông tin này... Khi bạn lướt qua dòng thời gian, bạn muốn biết: 'Liệu tôi có thể tin vào hình ảnh, video này không...'", ông Rosenthol nói.

Tiến sĩ Farzaneh Badiei, nhà sáng lập công ty nghiên cứu quản trị kỹ thuật số Digital Medusa, nhấn mạnh tầm quan trọng của cách tiếp cận toàn cầu, vì hiện tại không có cơ quan giám sát quốc tế nào tập trung vào việc phát hiện nội dung bị thao túng.

"Nếu chúng ta có những tiêu chuẩn và giải pháp chắp vá, thì deepfake gây hại có thể hiệu quả hơn," cô chia sẻ với giới truyền thông.

ITU hiện đang phát triển các tiêu chuẩn gắn watermark cho video - chiếm 80% lưu lượng internet - để nhúng dữ liệu nguồn gốc như danh tính người tạo và dấu thời gian.

Trong khi đó, nhà sáng lập Umanitek tại Thụy Sĩ, Tomaz Levak kêu gọi khu vực tư nhân chủ động triển khai các biện pháp an toàn và nâng cao nhận thức cho người dùng. "AI sẽ ngày càng mạnh mẽ, nhanh hơn, thông minh hơn… Chúng ta cần nâng cao kỹ năng cho mọi người để đảm bảo họ không trở thành nạn nhân của các hệ thống này", ông Levak nêu quan điểm.

Đức Bình