Elon Musk chia sẻ video deepfake giả giọng bà Harris
Đoạn video giả giọng Phó Tổng thống Kamala Harris nói những điều mà bà không hề nói đang làm dấy lên mối lo ngại về ảnh hưởng của deepfake AI khi ngày bầu cử Mỹ đang đến gần.
Đoạn video đã thu hút sự chú ý sau khi tỷ phú công nghệ Elon Musk chia sẻ nó trên mạng xã hội X vào tối 26/7 mà không ghi rõ mục đích ban đầu là để chế giễu.
Video sử dụng nhiều hình ảnh của bà Harris phát hành vào tuần trước khi bà khởi động chiến dịch tranh cử của mình. Tuy nhiên, giọng nói trong video bị thay đổi bằng một giọng khác giống bà một cách thuyết phục.
"Tôi, Kamala Harris, trở thành ứng cử viên tổng thống của Đảng Dân chủ vì ông Joe Biden cuối cùng đã thể hiện sự lú lẫn của mình tại cuộc tranh luận", giọng nói trong video nói. Video tuyên bố bà Harris trở thành ứng cử viên Đảng Dân chủ chỉ vì bà là phụ nữ và là người da màu, đồng thời nói rằng bà không biết "điều đầu tiên trong việc điều hành đất nước".
CEO Tesla và SpaceX Elon Musk. Ảnh: AP
Mia Ehrenberg, người phát ngôn cho chiến dịch tranh cử của bà Harris, cho biết: "Chúng tôi tin rằng người dân Mỹ muốn có sự tự do, cơ hội và an ninh thực sự mà Phó Tổng thống Harris mang lại; chứ không phải những lời nói dối giả mạo, bị thao túng của Elon Musk".
Video trên là ví dụ về cách công nghệ AI được sử dụng để chế giễu và gây hiểu lầm về chính trị, đặc biệt khi Mỹ đang tiến gần hơn đến cuộc bầu cử tổng thống. Nó cho thấy rằng, khi các công cụ AI chất lượng cao trở nên dễ tiếp cận, vẫn còn thiếu sót đáng kể trong việc quản lý sử dụng chúng.
Hai chuyên gia chuyên về phương tiện truyền thông do AI tạo ra đã xem xét âm thanh đoạn video giả mạo và xác nhận rằng phần lớn nội dung đó được tạo ra bằng công nghệ AI.
Một trong số họ, chuyên gia pháp y kỹ thuật số Hany Farid đến từ Đại học California, Berkeley, cho biết video này cho thấy sức mạnh của AI tạo sinh và deepfake.
"Giọng nói do AI tạo ra rất hay. Mặc dù hầu hết mọi người sẽ không tin đó là giọng nói của Phó Tổng thống Harris, nhưng video vẫn có sức thuyết phục mạnh mẽ khi lời nói giống hệt bà ấy", ông nói.
Ông cho biết, các công ty AI tạo ra các công cụ sao chép giọng nói và các công cụ AI khác nên làm tốt hơn để đảm bảo các dịch vụ của họ không bị sử dụng theo cách có thể gây hại cho công chúng
Rob Weissman, đồng chủ tịch của nhóm vận động Public Citizen, không đồng tình với Farid, nói rằng ông nghĩ nhiều người sẽ bị đánh lừa bởi đoạn video này.
