Công nghệ Deepfake len lỏi vào bầu cử Mỹ

"Tôi thực sự đánh giá cao Ron DeSantis," cựu Ngoại trưởng Hillary Clinton tiết lộ trong một video trực tuyến bất ngờ. "Ông ấy là mẫu người mà đất nước này cần".

Tổng thống Joe Biden buông lời cay nghiệt với một người chuyển giới: "Bạn sẽ không bao giờ là một người phụ nữ thực sự.”

Đó chỉ là nhiều trong số những ví dụ về việc công nghệ mô phỏng hình ảnh "deepfake" tạo ra những video giả mạo đang dần ảnh hưởng tới cuộc đua vào Nhà Trắng.

Một mô hình khung dây màu xanh lá cây bao phủ phần dưới khuôn mặt của một diễn viên trong quá trình tạo video tái tạo khuôn mặt tổng hợp, còn được gọi là deepfake. Ảnh: Reuters

Đây là công nghệ mô phỏng hình ảnh khuôn mặt con người và tạo ra các sản phẩm âm thanh, hình ảnh, thậm chí bao gồm cả những video giả.

Các đoạn Deepfake của bà Clinton hay ông Biden - những video nhìn rất "thực" nhưng được tạo ra bởi thuật toán AI dựa trên nhiều cảnh quay trực tuyến - nằm trong số hàng nghìn video nổi lên trên mạng xã hội, làm lu mờ sự thật và tăng phần hư cấu trong không gian chính trị Mỹ phân cực.

Dù các video như vậy đã xuất hiện được vài năm, nhưng gần đây ngày càng tăng tần suất nhờ một loạt các công cụ "AI thế hệ mới" như Midjourney giúp cho việc tạo ra các tác phẩm "deepfake" ngày càng trở nên dễ dàng với chi phí thấp.

"Cử tri sẽ rất khó phân biệt thật giả. Và bạn có thể tưởng tượng những người ủng hộ Trump hoặc những người ủng hộ Biden có thể sử dụng công nghệ này để bôi xấu đối thủ,” Darrell West, thành viên cấp cao tại Viện Brookings, cho biết.

Aza Raskin, đồng sáng lập của Trung tâm Công nghệ Con người, một tổ chức phi lợi nhuận nghiên cứu tác động của công nghệ đối với xã hội, cho biết các công cụ tạo ra các nội dung deepfake đang được tung ra trong khi rào cản ngăn chặn thông tin sai lệch có hại lại rất "mong manh", trong bối cảnh công nghệ tham gia vào cuộc chạy đua vũ trang AI.

Mặc dù các nền tảng truyền thông xã hội lớn như Facebook, Twitter và YouTube đã nỗ lực ngăn cấm và loại bỏ deepfake, nhưng hiệu quả của chúng trong việc kiểm soát nội dung đó lại khác nhau.

Theo DeepMedia, một công ty phát triển các công cụ phát hiện phương tiện tổng hợp, số lượng video deepfake các loại đã nhiều gấp ba lần và số lượng deepfake giọng nói đăng tải trong năm nay nhiều gấp ba lần so với cùng kỳ năm 2022.

Theo ước tính của DeepMedia, khoảng 500.000 video và giọng nói deepfake sẽ được chia sẻ trên các trang mạng xã hội toàn cầu vào năm 2023. Việc nhân bản một giọng nói từng tốn 10.000 USD cho máy chủ và chi phí đào tạo AI cho đến cuối năm ngoái, nhưng giờ đây các công ty khởi nghiệp cung cấp dịch vụ này với giá vài USD.

Theo khảo sát của Reuters, khó có thể chắc chắn con đường AI sáng tạo sẽ dẫn đến đâu hoặc làm thế nào để bảo vệ hiệu quả trước sức mạnh của nó đối với thông tin sai lệch hàng loạt.

Công ty hàng đầu trong ngành - OpenAI, vốn thay đổi cuộc chơi trong những tháng gần đây với việc phát hành ChatGPT và mô hình cập nhật GPT-4, cũng đang phải vất vả với vấn đề này. Giám đốc điều hành Sam Altman trong tháng 5, khẳng định tính liêm chính trong bầu cử là một "lĩnh vực đáng quan tâm" và kêu gọi nhanh chóng chấn chỉnh vấn đề này.

Không giống như một số công ty khởi nghiệp nhỏ hơn, OpenAI đã thực hiện các bước để hạn chế sử dụng các sản phẩm trong chính trị.

Ví dụ: OpenAI cho biết họ cấm trình tạo hình ảnh DALL-E của mình tạo các nhân vật của công chúng - và thực tế, khi Reuters cố gắng tạo hình ảnh của Trump và Biden, yêu cầu đã bị chặn và một thông báo xuất hiện cho biết nó "có thể không tuân theo chính sách nội dung của chúng tôi. "

Tuy nhiên, Reuters đã có thể tạo ra hình ảnh của ít nhất một chục chính trị gia khác, bao gồm cả cựu Phó Tổng thống Mike Pence, người cũng đang cân nhắc việc tranh cử vào Nhà Trắng năm 2024.

OpenAI cũng hạn chế bất kỳ việc sử dụng "quy mô" nào các sản phẩm của mình cho các mục đích chính trị. Chẳng hạn, cấm sử dụng AI của hãng để gửi hàng loạt email được cá nhân hóa cho các cử tri.

Tuy nhiên, một số công ty khởi nghiệp nhỏ hơn không có hạn chế rõ ràng về nội dung chính trị.

Midjourney, được ra mắt vào năm ngoái, là ứng dụng hàng đầu về hình ảnh do AI tạo ra, với 16 triệu người dùng trên máy chủ Discord chính thức. Ứng dụng có giá từ miễn phí đến 60 USD/tháng tùy thuộc vào các yếu tố như số lượng và tốc độ hình ảnh, là ứng dụng yêu thích của các nhà thiết kế và nghệ sĩ AI do khả năng tạo ra hình ảnh siêu thực của những người nổi tiếng và chính trị gia.

Ngay cả khi việc ngăn chặn sử dụng sai mục đích chưa ngã ngũ, một số người chơi chính trị cũng đang tìm cách khai thác sức mạnh của AI sáng tạo để thúc đẩy các chiến dịch.

Cho đến nay, quảng cáo chính trị duy nhất do AI tạo ra ở Mỹ do Ủy ban Quốc gia Đảng Cộng hòa (RNC) xuất bản vào cuối tháng 4. Quảng cáo dài 30 giây mà RNC tiết lộ là hoàn toàn do AI tạo ra, đã sử dụng hình ảnh giả mạo để gợi ý một kịch bản thảm khốc nếu ông Biden tái đắc cử, trong đó Trung Quốc tấn công Đài Loan và San Francisco bị phong tỏa vì tội phạm.

Cẩm Anh