Giật mình 'rác' bạo lực đội lốt phim hoạt hình

"Con chỉ xem phim hoạt hình thôi mà", niềm tin chủ quan ấy của chị Liên (ngụ phường Phước Long, TP HCM) đã sụp đổ khi chị vô tình kiểm tra lịch sử xem video trên điện thoại của con.

Ma trận hoạt hình "đen"

Thay vì những bộ phim thiếu nhi trong sáng, màn hình tràn ngập các clip "đội lốt" phim hoạt hình với vẻ ngoài bắt mắt, dễ thương nhưng nội dung bên trong lại đầy hình ảnh bạo lực, kinh dị và ám ảnh.

Theo phản ánh từ nhiều phụ huynh, các đoạn clip độc hại này được ngụy trang vô cùng tinh vi. Phần mở đầu thường đánh lừa người xem bằng hình ảnh nhân vật vui nhộn, âm nhạc rộn ràng và nhịp dựng nhanh đúng thị hiếu trẻ nhỏ. Tuy nhiên, chỉ sau vài giây, nội dung lập tức đảo chiều: thú nhồi bông bị hành hung và các cảnh tượng bạo lực xuất hiện dày đặc.

Chia sẻ về vấn đề này, chị Liên cho hay: "Thoạt nhìn, các video này có vẻ vô hại nhưng khi theo dõi kỹ nội dung, tôi thật sự hoảng sợ trước mức độ bạo lực được cài cắm bên trong".

Thực tế cho thấy chỉ với vài từ khóa đơn giản, hàng loạt video chứa hình ảnh gây sốc xuất hiện tràn lan. Đáng ngại hơn, nhiều video thu hút hàng triệu lượt xem và tồn tại trong thời gian dài. Phần lớn các nội dung này do tài khoản nước ngoài đăng tải, sử dụng tiêu đề tiếng nước ngoài nhưng khi dịch sang tiếng Việt lại mang nội dung cực đoan.

Bên cạnh những nội dung giải trí lành mạnh, trẻ em rất dễ bị dẫn dụ vào các “bẫy” video bạo lực, độc hại núp bóng phim hoạt hình trên môi trường mạng

Nguy hiểm hơn cả là cơ chế "tự động đề xuất" của các nền tảng. Chỉ cần trẻ vô tình bấm vào một clip, thuật toán sẽ lập tức điều hướng đến chuỗi nội dung tương tự với mức độ độc hại ngày càng tăng. Trẻ em gần như bị động tiếp nhận các video độc hại mà không cần thao tác tìm kiếm.

Tại Việt Nam, cuộc chiến chống lại nội dung xấu độc trên không gian mạng đang diễn ra quyết liệt nhưng đầy thách thức. Số lượng video và kênh vi phạm bị xử lý liên tục tăng qua từng năm. Cụ thể, trong 6 tháng đầu năm 2023, cơ quan chức năng đã yêu cầu YouTube gỡ bỏ hơn 6.000 video vi phạm. Đến năm 2024, con số này trên các nền tảng lớn đã tăng vọt lên gần 16.000 trường hợp; riêng YouTube bị yêu cầu gỡ hàng ngàn video và hàng chục kênh.

Dù cơ quan chức năng đã siết chặt kiểm soát nhưng nguồn phát tán nội dung độc hại vẫn không ngừng sinh sôi, đặc biệt trên các nền tảng có thuật toán đề xuất mạnh như YouTube.

Siết thuật toán, chặn video độc

Việt Nam vừa chính thức ban hành Luật Trí tuệ nhân tạo (AI), lần đầu tiên luật hóa các nguyên tắc: AI phải phục vụ con người, chịu sự giám sát của con người và được quản lý theo hướng kiểm soát rủi ro. Đối với nhiều phụ huynh, đây là tín hiệu tích cực, giải tỏa nỗi lo về các video độc hại nhắm vào trẻ em vốn tồn tại dai dẳng.

Trao đổi về hành lang pháp lý mới, luật sư Nguyễn Văn Đông, Đoàn Luật sư TP HCM, nhận định Luật AI sẽ củng cố trách nhiệm của các nền tảng xuyên biên giới trong việc bảo vệ trẻ em.

"Các nền tảng cung cấp dịch vụ và thu lợi nhuận từ thị trường Việt Nam bắt buộc phải tuân thủ pháp luật sở tại. Sự ra đời của Luật AI, cộng hưởng cùng Luật Trẻ em và Luật An ninh mạng, sẽ hoàn thiện khung pháp lý, buộc các nền tảng không thể đứng ngoài cuộc khi nội dung độc hại lan truyền" - luật sư Đông phân tích.

Cũng theo luật sư Đông, khi luật yêu cầu minh bạch và kiểm soát rủi ro, các nền tảng buộc phải thiết kế cơ chế bảo vệ trẻ em ngay từ đầu, thay vì chỉ xử lý thụ động khi có phản ánh hoặc yêu cầu gỡ bỏ như trước đây.

Dưới góc độ tâm lý - giáo dục, ThS Nguyễn Thị Thu Hiền đánh giá việc kiểm soát thuật toán mang ý nghĩa then chốt để giảm thiểu tổn thương cho trẻ. Trẻ em thường chưa đủ năng lực phân biệt giữa hư cấu và thực tế, nhất là với các nội dung hoạt hình - định dạng mà các em mặc định là an toàn.

ThS Hiền cảnh báo: "Việc tiếp xúc thường xuyên với hình ảnh bạo lực khiến não bộ của trẻ dần chai sạn, giảm ngưỡng sợ hãi và có xu hướng bắt chước hành vi xấu. Những tổn thương tâm lý này thường diễn ra âm thầm, khi phụ huynh phát hiện thì hậu quả đã nghiêm trọng".

Dù không kỳ vọng Luật AI có thể lập tức "làm sạch" hoàn toàn không gian mạng do đặc thù môi trường mở nhưng ThS Hiền cho rằng giá trị cốt lõi của luật là thay đổi tư duy quản lý: Chuyển từ chạy theo xử lý sự vụ sang kiểm soát ngay từ công nghệ và dòng chảy nội dung.

Song song với luật pháp, vai trò của gia đình và nhà trường là không thể thay thế. Phụ huynh cần đồng hành, thiết lập quy ước sử dụng thiết bị số, trong khi nhà trường cần đưa giáo dục an toàn mạng vào chương trình học để giúp trẻ sớm hình thành "kháng thể số".

Bài và ảnh: TRẦN THÁI