AI có thể gây xung đột trong nước Mỹ trước thềm bầu cử năm 2024

Mặc dù phiên bản mới nhất của các công cụ hình ảnh AI, chẳng hạn như Midjourney và Stable Diffusion, đã đạt được những tiến bộ đáng kể nhưng lỗi ở các chi tiết nhỏ vẫn là dấu hiệu phổ biến để phân biệt hình ảnh giả mạo. Ảnh: IT

AI tạo sinh - mối đe dọa lớn với các cuộc bầu cử

Các công cụ AI tạo sinh có khả năng tạo ra các loại nội dung giả mạo và siêu thực như giọng nói, hình ảnh, video và âm thanh của con người chỉ trong vài giây và với chi phí rất thấp. Đây là mối đe dọa lớn đối với các cuộc bầu cử khi các nền tảng xã hội truyền thông có thể phát tán rộng rãi các nội dung này nhằm ảnh hưởng đến cử tri, thông tin sai lệch về ứng cử viên hoặc khuấy động bạo động.

Các thông tin sai lệch do AI tạo ra đã xuất hiện trên mạng xã hội với số lượng lớn, trước khi diễn ra các cuộc bầu cử.

Theo ông A.J. Nash của ZeroFox, một công ty an ninh mạng ở Mỹ, chúng ta chưa sẵn sàng để đối phó với hiện tượng này. Ông cho biết: "Tôi cho rằng chúng ta đã chứng kiến sự tiến bộ vượt bậc của AI trong việc tạo ra âm thanh và video. Khi bạn có thể làm điều này trên quy mô lớn và lan truyền nó trên các nền tảng xã hội, thì nó sẽ gây ra những ảnh hưởng lớn".

Một số ví dụ về cách AI có thể bị lợi dụng trong bầu cử là sử dụng giọng nói giả của ứng cử viên để chỉ dẫn cử tri bỏ phiếu sai ngày, tạo ra các bản ghi âm giả trong đó ứng cử viên thừa nhận tội ác hoặc phát ngôn phân biệt chủng tộc, "chế" video có cảnh một nhân vật nào đó phát biểu hoặc trả lời phỏng vấn. Ngoài ra còn có các hình ảnh giả mạo được thiết kế để trông giống như ảnh báo chí, tuyên bố sai sự thật rằng một ứng cử viên đã rút lui khỏi cuộc đua…

Ông Oren Etzioni, CEO của Viện nghiên cứu AI Allen, phân tích: "Điều gì sẽ xảy ra nếu tỷ phú Elon Musk gọi điện cho bạn và yêu cầu bạn bỏ phiếu cho một ứng cử viên nào đó? Đó không phải là Elon Musk nhưng rất nhiều người sẽ tin vào điều đó".

AI tạo sinh có thể bị lợi dụng để kích động bạo lực

Bà Yvette Clarke, nghị sĩ Hạ viện Mỹ, đã đưa ra đề nghị yêu cầu các ứng viên phải ghi rõ những quảng cáo tranh cử do AI tạo ra. Bà Clarke nói rằng điều bà lo ngại nhất là AI tạo sinh có thể bị lợi dụng vào năm 2024 để tạo ra những video hoặc âm thanh kích động bạo lực khiến người Mỹ xung đột với nhau.

Đài DW (Đức) đã hỏi ý kiến của các chuyên gia và đưa ra những cách để phát hiện ảnh giả do AI tạo ra. Nhiều hình ảnh do AI tạo ra có vẻ rất thật. Việc phóng to hình ảnh sẽ cho thấy những điểm không hợp lý và lỗi khó nhận ra nếu chỉ nhìn qua. Nếu không biết chắc chắn hình ảnh là thật hay giả, hãy thử tìm nguồn gốc của nó qua các công cụ như Google Image Reverse Search, TinEye hoặc Yandex.

Da của người trong hình ảnh AI thường rất mượt mà, thậm chí tóc và răng của họ cũng không có khuyết điểm. Đây thường không phải là hình ảnh trong thực tế. Nhiều bức ảnh còn có tính nghệ thuật, lộng lẫy, lung linh mà ngay cả những nhiếp ảnh gia chuyên nghiệp cũng khó có thể chụp được trong studio. Trong một số trường hợp, các chương trình AI sao chép người và vật rồi dùng lại chúng nhiều lần hoặc nền trong các bức ảnh AI bị mờ cũng không phải là hiếm.

AI tạo sinh là một nhánh của trí tuệ nhân tạo chuyên về việc tạo ra các loại nội dung/dữ liệu mới từ các nguồn dữ liệu có sẵn. AI tạo sinh dựa trên thuật toán (deep learning) để mô phỏng và tái tạo các kết quả gần giống với con người.

Công nghệ này có thể được sử dụng để tạo ra các loại nội dung mới như âm thanh, mã, hình ảnh, văn bản, mô phỏng và video. Một số ví dụ nổi bật về AI tạo sinh là ChatGPT, Dall-E, LaMDA hay BlenderBot.

Nguồn: TTXVN/Tổng hợp

Dũng Minh