Khi AI tham gia... tranh cử!

Pakistan: AI “nhái giọng nói” ứng cử viên

AI đã thay thế cựu Thủ tướng Pakistan Imran Khan và giúp ông vận động tranh cử từ phía sau song sắt vào hôm 18/12 vừa qua, nhái giọng nói ông và thay mặt ông phát biểu đầy nhiệt huyết. Cựu Thủ tướng Khan đã bị giam từ tháng 8/2023 và đang bị xét xử vì làm rò rỉ tài liệu mật, những cáo buộc mà ông cho là bịa đặt để ngăn cản ông tham gia cuộc tổng tuyển cử vào tháng 2/2024.

AI và cuộc tranh cử vào Nhà Trắng năm 2024.

Đảng Pakistan Tehreek-e-Insaf (PTI) của ông đã sử dụng AI để tạo một tin nhắn dài 4 phút từ ông Khan, gây chú ý cho một “cuộc biểu tình ảo” được tổ chức trên mạng xã hội xuyên đêm từ đêm 17 đến ngày 18/12 bất chấp sự gián đoạn internet mà mạng lưới giám sát NetBlocks cho rằng giống với những nỗ lực trước đây nhằm kiểm duyệt ông Khan.

Đảng PTI cho biết, ông Khan đã gửi một đoạn kịch bản tốc ký thông qua các luật sư để truyền đạt tới những người ủng hộ ông. Sau đó, văn bản được lồng thành âm thanh bằng công cụ của công ty AI ElevenLabs, công ty có khả năng tạo “bản sao giọng nói” từ các mẫu giọng nói hiện có. Giọng nói ông Khan phát ra từ AI: “Hỡi những người Pakistan đồng bào của tôi, trước tiên tôi muốn ca ngợi nhóm truyền thông xã hội vì nỗ lực lịch sử này. Có lẽ, tất cả các bạn đang thắc mắc tôi sống thế nào trong tù. Hôm nay, quyết tâm giành tự do thực sự của tôi rất mạnh mẽ”.

Đoạn âm thanh được phát vào cuối buổi phát biểu trực tiếp kéo dài 5 giờ của những người ủng hộ đảng PTI trên Facebook, X và YouTube, đồng thời được phủ lên các cảnh quay lịch sử về ông Khan và hình ảnh tĩnh. Theo PTI, nó được đính kèm các video clip chân thực từ các bài phát biểu trước đây của ngôi sao cricket một thời, nhưng thỉnh thoảng lại xuất hiện một chú thích gắn cờ nó là “giọng nói AI của Imran Khan dựa trên ghi chú của anh ấy”.

PTI là đảng chính trị đầu tiên ở Pakistan khai thác tiềm năng của truyền thông xã hội, sử dụng các ứng dụng công nghệ để nhắm đến đối tượng trẻ tuổi đã đưa họ lên nắm quyền cách đây 5 năm. Jibran Ilyas, Giám đốc truyền thông xã hội của đảng PTI nói với hãng tin AFP: “Chúng tôi muốn tham gia vào chế độ bầu cử. Không có cuộc biểu tình chính trị PTI nào hoàn thành nếu không có Imran Khan”.

Cơ quan kiểm duyệt nhà nước Pakistan đã cấm ông Khan phát sóng vào đầu năm nay sau khi ông bị bắt giữ trong thời gian ngắn vào tháng 5. Mạng lưới NetBlocks cho biết, mạng xã hội đã bị hạn chế trong 7 giờ bắt đầu từ tối muộn ngày 17/12 trong một sự cố “giống với các trường hợp kiểm duyệt internet trước đây nhắm vào ông Khan”. Tuy nhiên, cuộc tập hợp cử tri trực tuyến vẫn được hơn 4,5 triệu người trên Facebook, X và YouTube xem.

Các nhà phân tích từ lâu đã cảnh báo rằng những kẻ xấu có thể lợi dụng AI để mạo danh các nhà lãnh đạo và gieo rắc thông tin sai lệch, nhưng ít ai nói đến việc công nghệ này có thể được sử dụng để “lách” lệnh cấm như trường hợp của ông Khan. Ông Khan đã bị lật đổ vào năm ngoái sau khi bất hòa với các nhà lãnh đạo quân sự Pakistan, những người mà các nhà phân tích cho rằng đã ảnh hưởng đến việc ông lên nắm quyền vào năm 2018. Sau đó, ông đã lãnh đạo một chiến dịch thách thức chưa từng có, cáo buộc các quan chức cấp cao âm mưu với Mỹ để trục xuất ông và nói rằng các sĩ quan cấp cao đã âm mưu ám sát khiến ông bị thương. Sau khi những người ủng hộ ông gây bạo loạn sau vụ bắt giữ ông vào tháng 5/2023, đảng PTI đã trở thành mục tiêu trong một cuộc đàn áp lớn của giới quân sự.

Mỹ: Lợi bất cập hại từ AI

Vào tháng 4/2023, sau nhiều đồn đoán, Tổng thống Joe Biden đã chính thức phát động chiến dịch tái tranh cử thông qua video thông báo. Cùng ngày, Ủy ban Quốc gia đảng Cộng hòa (RNC) đã phản hồi bằng quảng cáo dài 32 giây, trong đó hình dung 4 năm nữa dưới thời Tổng thống Biden với tội phạm nhiều hơn, biên giới rộng mở, chiến tranh với Trung Quốc và sự sụp đổ kinh tế. Thoạt nhìn, nó có vẻ giống như một cuộc tấn công chính trị tầm thường, nhưng trên thực tế, đây là quảng cáo chiến dịch quốc gia đầu tiên được tạo thành từ những hình ảnh hoàn toàn do AI tạo ra.

Trong bài báo trên tạp chí Foreign Affairs năm 2018 tựa đề “Deepfakes và Cuộc chiến thông tin sai lệch mới”, Robert Chesney và Danielle Citron đã dự đoán rằng, “dòng thông tin” trên mạng xã hội, niềm tin ngày càng giảm vào các phương tiện truyền thông truyền thống và độ tin cậy ngày càng tăng của tin giả sẽ tạo ra một cơn bão hoàn hảo để truyền bá thông tin sai lệch và xuyên tạc.

Giờ đây, dự báo của hai người đã bắt đầu diễn ra. Vào tháng 1/2023, một đoạn video giả mạo như thật được lan truyền trên Twitter cho thấy Tổng thống Biden thông báo rằng ông đã đưa ra dự thảo và sẽ cử người Mỹ đến chiến đấu ở Ukraine. Đoạn clip ban đầu hiển thị chú thích mô tả nó như một “trí tưởng tượng” của AI, nhưng nhanh chóng mất đi tuyên bố từ chối trách nhiệm khi lưu hành, cho thấy việc sử dụng AI được chia sẻ một cách minh bạch có thể dễ dàng biến thành thông tin sai lệch như thế nào.

Trong cuộc bầu cử sơ bộ Thị trưởng Chicago vào tháng 2/2023, một đoạn video được làm giả đã xuất hiện cho thấy ứng cử viên Paul Vallas có vẻ tán thành sự tàn bạo của cảnh sát. Vallas cuối cùng đã thua cuộc đua. Không thể nói được mức độ ảnh hưởng của video này.

Kevin Pérez-Allen, Giám đốc truyền thông của tổ chức ủng hộ việc chăm sóc sức khỏe phi đảng phái United States of Care (USC) cho biết có rất nhiều điều trong chiến dịch tranh cử mà AI có thể “nhái” con người làm được. Tuy nhiên, cho dù AI có thể thu thập thông tin, phân tích dữ liệu và viết là một số hạng mục, nó lại “không thể nhân bản con người, không thể thay con người trực tiếp tham gia tiếp xúc cử tri”.

An Châu (Tổng hợp)