Tràn lan ảnh giả deepfake về cuộc chiến Gaza làm gia tăng mối lo ngại AI

Được xem hàng triệu lần trên các nền tảng trực tuyến, những hình ảnh này là những hình ảnh deepfake được tạo ra bằng trí tuệ nhân tạo. Nếu nhìn kỹ, người xem có thể thấy các manh mối nhận ra điều đó như: ngón tay cong kỳ lạ hoặc đôi mắt lấp lánh ánh sáng không tự nhiên.

Tuy nhiên, sự phẫn nộ mà những hình ảnh deepfake đó tạo ra là thật.

Những bức ảnh từ cuộc chiến Israel - Hamas đã minh họa một cách sống động và đau đớn mối nguy của AI như một công cụ tuyên truyền, được sử dụng để tạo ra những hình ảnh sống động như thật.

Kể từ khi chiến sự bắt đầu vào tháng trước, những bức ảnh được chỉnh sửa kỹ thuật số lan truyền trên mạng xã hội đã được sử dụng để đưa ra những tuyên bố sai lệch về trách nhiệm đối với thương vong hoặc để đánh lừa mọi người về những hành động tàn bạo chưa từng xảy ra.

Một người Palestine thu nhặt đồ đạc trong đống đổ nát ở Gaza. Ảnh AP

Những tiến bộ công nghệ đang xuất hiện với tần suất ngày càng tăng và ít được giám sát. Điều đó khiến nguy cơ AI trở thành một dạng vũ khí khác trở nên rõ ràng và đưa ra cái nhìn ban đầu về những gì sẽ xảy ra trong các cuộc xung đột, bầu cử và các sự kiện lớn khác trong tương lai.

Jean-Claude Goldenstein, CEO của CREOpoint, một công ty công nghệ có trụ sở tại San Francisco và Paris sử dụng AI để đánh giá tính hợp lệ của các khiếu nại trực tuyến, cho biết: “Mọi chuyện sẽ trở nên tồi tệ hơn rất nhiều trước khi chúng trở nên tốt hơn”.

Công ty của ông đã thu thập một cơ sở dữ liệu về các hình ảnh deepfake có tính lan truyền cao nhất xuất hiện từ Gaza. “Hình ảnh, video và âm thanh: với AI sáng tạo, đây sẽ là một bước tiến mà bạn chưa từng thấy”, ông nói.

Imran Ahmed, CEO của Trung tâm Chống Thù hận Kỹ thuật số, một tổ chức phi lợi nhuận chuyên theo dõi thông tin sai lệch từ chiến tranh, cho biết những nhà tuyên truyền tạo ra những hình ảnh như vậy có kỹ năng nhắm vào những xung động và lo lắng sâu sắc nhất của mọi người.

Hình ảnh càng đáng sợ thì người dùng càng có nhiều khả năng ghi nhớ và chia sẻ nó, vô tình lan truyền thông tin sai lệch thêm. Nội dung sai lệch tương tự do AI tạo ra thực sự bắt đầu lan truyền sau kể từ sau cuộc xung đột Nga - Ukraine.

Mỗi cuộc xung đột hoặc mùa bầu cử mới đều mang đến những cơ hội cho những kẻ phát tán thông tin sai lệch. Điều đó khiến nhiều chuyên gia AI và nhà khoa học chính trị cảnh báo về những rủi ro trong năm tới, khi một số quốc gia tổ chức các cuộc bầu cử lớn, bao gồm Mỹ, Ấn Độ, Pakistan, Ukraine, Indonesia và Mexico.

Nguy cơ AI và mạng xã hội có thể được sử dụng để truyền bá những lời dối trá tới cử tri Mỹ đã khiến các nhà lập pháp của cả hai đảng ở Washington cảnh báo. Tại một phiên điều trần gần đây về sự nguy hiểm của công nghệ deepfake, Hạ nghị sĩ Mỹ Gerry Connolly, Đảng viên Đảng Dân chủ bang Virginia, cho biết Mỹ cần đầu tư tài trợ cho việc phát triển các công cụ AI được thiết kế để chống lại các AI khác.

Giáo sư David Doermann tại Đại học Buffalo cho biết, việc ứng phó hiệu quả với các thách thức chính trị và xã hội do thông tin sai lệch mà AI tạo ra sẽ đòi hỏi cả công nghệ tốt hơn và các quy định tốt hơn.

Mai Anh (theo AP)