Video AI giả mạo gieo hoảng loạn giữa mùa mưa lũ ở Trung Quốc

Ảnh chụp màn hình cho thấy truyền thông nhà nước Trung Quốc bác bỏ nội dung do AI tạo ra. Ảnh: CCTV

Khi Trung Quốc nỗ lực khắc phục hậu quả của bão Noul đổ bộ vào nước này cuối tuần qua, các nhà chức trách nhận thức rõ họ sẽ phải đối mặt với thách thức mới: Những đoạn video giả mạo do trí tuệ nhân tạo (AI) tạo ra.

Trong vài tháng qua, các cơn bão mạnh và những trận lũ lụt liên tiếp đã kéo theo cả làn sóng video giả tràn ngập trên mạng xã hội nước này.

Những nội dung này bao gồm hình ảnh thi thể nổi trên dòng nước lũ, cảnh ngập lụt nghiêm trọng tại các khu vực thực tế không hề bị ảnh hưởng, hay video bịa đặt về hoạt động cứu hộ khẩn cấp.

Ở một số địa phương, video lan truyền thông tin sai sự thật về tình trạng mất điện đã khiến người dân hoảng loạn, đổ xô đi mua nhu yếu phẩm tích trữ.

Một số video khác thậm chí lợi dụng những sự kiện có thật, theo BBC.

Đầu tháng 7, trận lũ tại huyện Hoành, khu tự trị Quảng Tây khiến hàng trăm con rắn sổng khỏi trang trại nuôi.

Ngay sau đó, trên mạng lại xuất hiện những hình ảnh giả mạo cho thấy cá sấu cũng bị nước lũ cuốn trôi và xuất hiện trên sông.

Nguy cơ khủng hoảng về thông tin sai lệch

Trong bối cảnh tình hình vốn đã căng thẳng và nguy hiểm, với những đợt sơ tán quy mô lớn cùng chiến dịch cứu hộ phức tạp, lực lượng chức năng muốn tránh mọi nguy cơ gây hoảng loạn.

Giờ đây, họ lo ngại rằng AI - lĩnh vực mà nước này đang đầu tư hàng tỷ USD - có thể cung cấp những công cụ đơn giản và dễ tiếp cận để đánh lừa công chúng.

"Nhiều người sáng tạo nội dung lợi dụng tin tức về thiên tai để thu hút người theo dõi, bởi họ biết rằng nội dung càng giật gân, càng phóng đại thì càng dễ nhận được nhiều lượt thích và lượt xem. Họ cố tình bịa đặt thông tin nhằm thu hút sự chú ý của mọi người", Huang Zhihua, phó trưởng phòng phụ trách an ninh mạng thuộc Sở Cảnh sát tỉnh Chiết Giang, nói.

Hôm 13/7, lực lượng cảnh sát mạng Trung Quốc thông báo đã điều tra và xử lý nhiều cá nhân vì bịa đặt và phát tán tin đồn liên quan đến lũ lụt trên mạng, theo Global Times.

Trong số đó, có người sử dụng hiệu ứng đặc biệt để tạo video giả về cảnh lũ quét tràn qua vùng nông thôn, trong khi một số khác lấy lại đoạn phim từ những mùa lũ trước rồi gán sai sự thật rằng đó là cảnh ngập ngay bên ngoài nhà mình.

Theo tài khoản WeChat liên kết với Cục Cảnh sát mạng thuộc Bộ Công an Trung Quốc, giới chức đã công bố các vụ việc điển hình bị xử lý. Trong đó, 4 vụ bị tạm giữ để điều tra hình sự, 23 vụ bị xử phạt hành chính, đồng thời các tài khoản trực tuyến liên quan cũng bị khóa.

Nội dung giả mạo về việc cá sấu xuất hiện trên sông. Nội dung được nhà chức trách xác định là giả và yêu cầu người sử dụng mạng xã hội cảnh giác. Ảnh: BBC.

Tuy nhiên, các chuyên gia cảnh báo một cuộc khủng hoảng chưa từng có về thông tin sai lệch có thể đang ở rất gần.

Trong bài viết đăng trên báo của Trường Đảng Trung ương Đảng Cộng sản Trung Quốc, giáo sư Chen Bin nhận định: "AI đã làm giảm đáng kể rào cản kỹ thuật trong việc tạo ra thông tin sai lệch. Giờ đây, người dùng không còn cần những kỹ năng công nghệ phức tạp. Chỉ cần đưa ra yêu cầu cho các công cụ AI, nó có thể nhanh chóng tạo ra văn bản, hình ảnh, âm thanh và video có sức thuyết phục”.

“Đây đều là những nội dung hoàn toàn bịa đặt nhưng có độ chân thực như thật và có thể được sản xuất với quy mô lớn", ông cho hay.

Giáo sư Gao Fuping thuộc Đại học Khoa học Chính trị và Luật Hoa Đông cho biết động cơ đăng tải các nội dung giả mạo rất đa dạng.

Theo ông, có người chỉ muốn “tạo ra thứ gì đó gây thích thú mà không nghĩ đến hậu quả, có người “nhằm thu hút lưu lượng truy cập để kiếm lợi”, cũng có người cố tình “gây hoang mang hoặc bất ổn xã hội".

"Một số người dùng cho rằng môi trường trực tuyến là ẩn danh và không bị kiểm soát, hoặc họ không thể bị truy vết", ông nói.

Đã có nhiều ý kiến kêu gọi tất cả nội dung do AI tạo ra phải được gắn nhãn rõ ràng. Tuy nhiên, vấn đề là những người khác hoàn toàn có thể chỉnh sửa lại tệp này để xóa bỏ dấu hiệu nhận diện.

Giáo sư Xu Xiaoke của Đại học Sư phạm Bắc Kinh nói rằng cần tăng cường xác minh vị trí địa lý, thời gian ghi hình cũng như kiểm tra nguồn gốc của hình ảnh.

Tuy nhiên, ông cũng nhấn mạnh: "Công nghệ phát hiện nội dung AI vẫn đang tụt lại phía sau công nghệ tạo nội dung. Đây là cuộc chạy đua không ngừng nghỉ”.

Xây dựng hạ tầng thông tin tin cậy

Năm 2017, Bắc Kinh tuyên bố AI sẽ là "động lực chính" thúc đẩy sự phát triển của đất nước.

Hiện nay, dòng vốn khổng lồ đang đổ vào các doanh nghiệp AI, khiến cuộc cạnh tranh trong nước ngày càng trở nên gay gắt. Hãng thông tấn nhà nước Tân Hoa Xã cho biết Trung Quốc hiện có hơn 6.000 “công ty AI”.

Trong bối cảnh đó, giáo sư Xu cho rằng Trung Quốc cần xây dựng "cơ sở hạ tầng thông tin đáng tin cậy".

Điều này có thể bao gồm các hệ thống cảnh báo sớm chính thức của chính phủ và cùng nền tảng thông tin về thiên tai mà cơ quan báo chí có thể tiếp cận.

"Khi nhận được các thông tin về thiên tai từ nguồn không xác định, người dân cần giữ thái độ thận trọng và chỉ dựa vào thông báo chính thức", Gao Kai, cán bộ Cơ quan An ninh Công cộng thành phố Ningbo, cho biết.

Nội dung do AI tạo ra ngụ ý việc giải cứu lợn được ưu tiên hơn so với con người. Nội dung được nhà chức trách xác định là giả và yêu cầu người sử dụng mạng xã hội cảnh giác. Ảnh: BBC.

Tại Trung Quốc, mức xử phạt đối với hành vi phát tán thông tin sai lệch có thể từ phạt tiền đến 7 năm tù, nếu hậu quả của việc lan truyền tin giả được đánh giá là đặc biệt nghiêm trọng.

Ngày 23/7, Cục Quản lý Không gian mạng Trung Quốc (CAC) cũng phát động chiến dịch truy quét trên phạm vi toàn quốc nhằm xử lý các nội dung giả mạo trên Internet liên quan đến lũ lụt và thảm họa khác.

Giáo sư Gao Fuping cho rằng "giải pháp nằm ở việc kết hợp giáo dục cộng đồng với thực thi pháp luật".

Luật sư Peter Pang, làm việc tại Thượng Hải và Washington, cho biết giới luật sư trên toàn thế giới đang chứng kiến số lượng vụ việc liên quan đến AI và thông tin sai lệch gia tăng nhanh chóng.

Theo ông, không chỉ những người tạo ra tin giả mà các công ty phát triển ứng dụng AI và nền tảng được sử dụng để đăng tải video giả mạo cũng cần phải chịu trách nhiệm pháp lý.

"Tuyến đầu tiên phải là các nền tảng, bởi chính họ là yếu tố tạo điều kiện. Họ là bên cho phép thông tin đó có khả năng lan truyền”, ông nói.