Trung Quốc mạnh tay dọn rác mạng: Xóa 5,6 triệu tin, xử lý 49.000 tài khoản, dẹp bỏ 2.400 website

Dùng AI "xào nấu" các tác phẩm kinh điển tạo nội dung nhảm nhí để câu tương tác sẽ bị xử lý nghiêm. Ảnh: Guancha.

Theo thông tin từ tài khoản WeChat chính thức "Trung Quốc Võng Tín", CAC đã triển khai giai đoạn 2 của chiến dịch "Thanh Lãng - Triệt phá các biến tướng trong ứng dụng AI". Đợt truy quét này tập trung vào các vấn đề nhức nhối như: Dùng AI tạo dựng và phát tán tin giả, lan truyền nội dung bạo lực, đồi trụy, mạo danh người khác, và xâm phạm quyền lợi của trẻ em.

Thực hiện chỉ đạo của trung ương, cơ quan quản lý không gian mạng các địa phương đã đẩy mạnh các nhiệm vụ trọng tâm, yêu cầu các nền tảng số tập trung dọn dẹp nội dung vi phạm do AI tạo ra, xử lý nghiêm các tài khoản và ứng dụng vi phạm quy định pháp luật, nhằm ngăn chặn hiệu quả tình trạng biến tướng nội dung do AI tạo dựng, đồng thời thúc đẩy các dịch vụ AI phát triển lành mạnh, đúng hướng.

Tính đến nay, chiến dịch đã dọn dẹp hơn 5,61 triệu thông tin vi phạm, xử lý hơn 49.000 tài khoản và triệt phá hơn 2.400 website và ứng dụng vi phạm. Trong suốt đợt ra quân, hàng loạt tài khoản và ứng dụng phạm quy đã bị xử lý. Nhằm nâng cao tính cảnh báo và giáo dục, cơ quan chức năng công khai một số trường hợp điển hình dưới đây.

Dùng AI "phục sinh" người chết thu tiền khách hàng, trục lợi bất hợp pháp. Ảnh: IThome.

Dùng AI "xào nấu" tác phẩm kinh điển, tạo ra "rác công nghệ"

Các tài khoản như “Thiên Tiểu” (Weibo), “Oai Quốc” (Douyin), “Tiểu Khuẩn” (Kuaishou), “Mặn i” (WeChat)... đã lạm dụng công nghệ AI để "chế" bậy các tác phẩm kinh điển như Tam Quốc Diễn Nghĩa, Tây Du Ký, làm đảo lộn hình tượng nhân vật và bịa đặt các tình tiết dị hợm, kém chất lượng nhằm câu tương tác. Các tài khoản này đã bị xử lý theo đúng quy định.

Dùng AI dựng và phát tán tin giả

Các tài khoản “Vân Thị” (Kuaishou), “Hữu Thầu” (Xiaohongshu), “7 Viên” (Douyin), “Trường Buồm” (WeChat)... đã dùng AI để tạo dựng hình ảnh giả mạo về hiện trường thiên tai, cảnh cứu hộ; bịa đặt các vụ việc xã hội giật gân; đăng tải nội dung mê tín dị đoan; đồng thời tạo ra "người ảo AI" để quảng cáo bán hàng lừa đảo, gây hoang mang dư luận và dụ dỗ, dắt mũi người cao tuổi. Toàn bộ các tài khoản liên quan đều đã bị xử lý.

Dùng AI mạo danh người khác

Các tài khoản như “Đặc Lực” (Douyin), “Thạch” (Kuaishou), “Triều Kiện” (Xiaohongshu), “MLặc” (WeChat)... đã lạm dụng công nghệ ghép mặt (deepfake) và nhái giọng AI để giả mạo người nổi tiếng, tạo ra các hình ảnh, video đồi trụy như nhảy múa khiêu dâm, ôm hôn... nhằm trục lợi thương mại. Các tài khoản này đã bị xử lý nghiêm.

Tạo tin giả, lừa đảo tiền người sử dụng mạng. Ảnh: IThome.

Sản xuất, phát tán nội dung bạo lực, đồi trụy

Các tài khoản như “Đới Trứ” (Bilibili), “Ba C” (Douyin), “Hà Quỷ” (Kuaishou), “Tinh 7” (WeChat)... đã đăng tải hàng loạt nội dung do AI tạo ra mang tính chất kinh dị, quái đản, bạo lực và đồi trụy. Tất cả đều đã bị xử lý theo quy định.

Dùng AI xâm phạm quyền lợi trẻ em

Các tài khoản như “Tiểu Oa” (Xiaohongshu), “Đậu A” (WeChat), “Bán Lịch” (Douyin), “Nhược Tuyết” (Kuaishou)... đã đăng tải các hình ảnh, video AI giả mạo các vụ việc vị thành niên mang thai, đánh nhau… những nội dung hoàn toàn lệch chuẩn so với lứa tuổi. Ngoài ra, các tài khoản này còn sản xuất hàng loạt "hoạt hình độc hại", video bạo lực, biến thái hướng đến trẻ em, làm xấu hình ảnh và ảnh hưởng nghiêm trọng đến sức khỏe thể chất lẫn tinh thần của trẻ vị thành niên. Các tài khoản này đã bị xử lý.

Trang web lừa đảo khách hàng "trả tiền trước, nhận hàng sau". Ảnh: Sohu.

Dùng AI "ủy thác" để thao túng dư luận

Các tài khoản như “Đào Khách” (WeChat), “A Sư” (Weibo), “Phong” (Douyin)... đã kéo người dùng cho các phần mềm AI "ủy thác", giả lập thao tác của người thật để quản lý tài khoản, tự động bình luận, tương tác và tạo ra hàng loạt bài viết trùng lặp, kém chất lượng nhằm mục đích "seeding", thao túng dư luận trên mạng. Tất cả đã bị xử lý.

Các sản phẩm, ứng dụng AI vi phạm quy định

Nhiều ảnh đại diện, phần giới thiệu và hội thoại do các chatbot trên các nền tảng như “N…t”, “Xuyên Nguyên”, “Điềm Khuyên”, “Vu…o” tạo ra có chứa nội dung dâm ô, đồi trụy và các thông tin độc hại khác đối với trẻ em, gây ảnh hưởng nghiêm trọng đến môi trường không gian mạng. Đối với các đơn vị cố tình không khắc phục, cơ quan chức năng đã xử lý nghiêm theo pháp luật, áp dụng các biện pháp như cảnh cáo, xử phạt hành chính, gỡ bỏ ứng dụng hoặc đóng cửa vĩnh viễn.

Cục Quản lý không gian mạng Trung Quốc khẳng định thời gian tới trên cơ sở tổng kết hiệu quả của chiến dịch, CAC sẽ tiếp tục bám sát xu hướng và quy luật phát triển của trí tuệ nhân tạo, giám sát chặt chẽ các diễn biến và rủi ro mới từ nội dung do AI tạo ra, quyết tâm ngăn chặn tình trạng công nghệ AI bị lạm dụng, quyết tâm xây dựng một môi trường thuận lợi cho trí tuệ nhân tạo đổi mới và phát triển lành mạnh.