Australia phát triển công cụ mới giúp phát hiện âm thanh giả mạo bằng deepfake

Theo phóng viên TTXVN tại Sydney, CSIRO cho biết kỹ thuật mới trên, có tên là RAIS (Rehearsal with Auxiliary-Informed Sampling), được thiết kế chuyên biệt để phát hiện âm thanh deepfake. Đây là một mối đe dọa đang gia tăng trong lĩnh vực tội phạm mạng, với các rủi ro bao gồm việc vượt qua các hệ thống xác thực sinh trắc học bằng giọng nói, mạo danh và phát tán thông tin sai lệch.

Kỹ thuật RAIS không chỉ xác định được tính chân thực của một đoạn âm thanh, mà còn đảm bảo duy trì hiệu suất hoạt động cao, ngay cả khi các hình thức tấn công giả mạo tiếp tục phát triển và thay đổi.

Tiến sĩ Kristen Moore, đồng tác giả nghiên cứu tại Data61 - đơn vị chuyên trách về dữ liệu và kỹ thuật số của CSIRO, chia sẻ mục tiêu của nhóm là phát triển hệ thống phát hiện có khả năng cập nhật các mẫu deepfake mới mà không cần đào tạo lại mô hình từ đầu, tránh được hiện tượng mô hình quên đi các dữ liệu cũ khi tinh chỉnh. Bà Moore giải thích RAIS giải quyết vấn đề này bằng cách tự động chọn lọc và lưu trữ một tập hợp nhỏ, đa dạng các deepfake trước đó, trong đó có cả các đặc điểm âm thanh ẩn, nhằm hỗ trợ AI học hỏi các kiểu deepfake mới nhưng vẫn bảo toàn kiến thức về các kiểu cũ.

Cụ thể, RAIS hoạt động dựa trên một quy trình lựa chọn thông minh, tạo ra các "nhãn phụ trợ" (auxiliary labels) cho mỗi mẫu âm thanh. Việc kết hợp các nhãn phụ trợ này, thay vì chỉ giới hạn ở việc gán nhãn đơn thuần là “thật” hay “giả”, đảm bảo một tập hợp dữ liệu đào tạo phong phú và đa dạng. Cơ chế này giúp cải thiện đáng kể khả năng ghi nhớ và thích ứng theo thời gian của hệ thống.

Theo CSIRO, trong quá trình thử nghiệm, RAIS đã vượt trội so với các phương pháp khác với tỷ lệ lỗi trung bình thấp nhất là 1,95% xuyên suốt chuỗi năm thử nghiệm liên tiếp. Mã nguồn của kỹ thuật này đã được cung cấp trên GitHub - trang chuyên lưu trữ mã nguồn trực tuyến dựa trên nền tảng Git.

Lê Đạt (TTXVN)