Phim ngắn AI phản cảm tràn lan trên mạng xã hội, tiềm ẩn nguy cơ ảnh hưởng trẻ em

AI đang mở ra nhiều khả năng mới cho sáng tạo, giáo dục và giải trí. Chỉ với một vài công cụ, một video, phim ngắn định dạng dọc có thể được tạo ra rất nhanh với chi phí thấp. Và từ một video, có thể là hàng chục, hàng trăm nội dung tương tự liên tục xuất hiện trên mạng xã hội.

Nhưng trong dòng nội dung ấy, nhiều video ngắn được sản xuất từ AI lại không được kiểm duyệt, có nội dung câu view. Một số video chạy theo các tình tiết gây sốc, quan hệ gia đình lệch chuẩn, trả thù, ngoại tình hoặc mô-típ đề cao tiền bạc, quyền lực.

Dễ dàng nhìn thấy những video phim ngắn từ AI có tư duy lệch lạc như cuộc đời này, phải có tiền, có quyền mới sống được. Hoặc, những cô gái trẻ đẹp phải dùng nhan sắc của mình để "câu kéo" các đại gia, tổng tài...

Thậm chí, nhiều bạn trẻ không quan tâm đến những nội dung này, nhưng khi lướt mạng xã hội, các nền tảng vẫn gợi ý xem.

Đáng lo hơn, khi người xem dừng lại càng lâu, thuật toán càng có thể tiếp tục đề xuất những nội dung tương tự. Một vòng lặp được hình thành: xem - đề xuất - xem tiếp. Và càng xem thì càng khó dừng.

Do đặc tính thời lượng ngắn, những người làm video AI dạng này thường tạo ra các câu chuyện kinh dị, những câu chuyện gây sốc, những nội dung bất thường hoặc có tính chất phản cảm xã hội cao.

Những nội dung gây sốc, phản cảm thường sẽ dễ gây chú ý. Hơn nữa, chất lượng hình ảnh do AI tạo ra ngày càng đẹp mắt, những nhân vật hư cấu nhưng giống y như thật có thể tạo hiệu ứng thị giác và khơi gợi sự tò mò, đặc biệt ở người xem trẻ. Các nhà sản xuất cũng dễ dàng cài cắm nội dung không lành mạnh thông qua các hình ảnh, lời nói, cốt truyện.

Một học sinh cho biết: "Người tạo ra các video thường ngụy trang nội dung xấu độc dưới vỏ bọc câu chuyện học đường hay drama của người nổi tiếng để qua mắt người xem. Xem nhiều quá, chúng em dần mất đi khả năng phân biệt đâu là thật, đâu là AI".

Ông Hoàng Bảo Long, Giảng viên Khoa Máy tính và Công nghệ, Trường Đại học Anh Quốc Việt Nam (BUV), cho biết: "Trong tâm lý học có khái niệm 'psychological imprints' tức dấu ấn tâm lý. Khi một người có ấn tượng sâu sắc với một chủ đề nào đó, tư duy của họ sẽ bị chi phối bởi chủ đề đó".

Các nền tảng mạng xã hội cũng đã có công cụ để phát hiện và kiểm soát một số nội dung không phù hợp. Tuy nhiên, số lượng phim AI có nội dung phản cảm, bạo lực vẫn mọc lên như nấm.

Nhập viện điều trị khi xem phim ngắn tiêu cực

Với trẻ em và trẻ vị thành niên, việc liên tục bị cuốn vào những nội dung ngắn trên mạng có thể khiến thời gian sử dụng ngày càng kéo dài và dần trở nên khó kiểm soát. Không chỉ xáo trộn sinh hoạt, ảnh hưởng đến học tập, hệ lụy còn có thể tác động trực tiếp đến sức khỏe tinh thần. Thực tế, đã có những trường hợp phải nhập viện điều trị khi việc xem phim ngắn, trong đó có những nội dung được tạo bằng AI, trở thành thói quen thiếu kiểm soát.

Một em lớp 6 từng là một học sinh ngoan, học giỏi. Qua một mùa hè, em dùng điện thoại nhiều hơn, xem nhiều clip AI. Từ khoảng 2 giờ mỗi ngày, thời gian sử dụng dần kéo dài, có những ngày em thức rất khuya để xem.

Học sinh này chia sẻ: "Kiểu nó phi thực tế quá mức. Mọi người chạy theo số đông, chẳng biết có thích thật không nữa. Xem cho vui chơi chơi, nó chẳng được cái gì, làm cho chúng ta khó mà nhớ".

Phụ huynh học sinh cho biết: "Nếu xem trên tivi mình biết là xem gì, mình bảo xem ít thôi, con bảo con không sao. Mình không xem lại những thứ con xem, bảo con không xem những thứ đánh nhau".

Em ít giao tiếp hơn, khả năng tập trung giảm, tâm trạng cũng có những biểu hiện bất thường. Thậm chí em thường xuyên tự làm đau bản thân, xuất hiện nhiều suy nghĩ tiêu cực, buồn chán.

Em chia sẻ: "Con bắt đầu tự đánh bản thân mình nhiều hơn. Con nghĩ làm sao để bố mẹ không biết mình đánh. Con thấy sảng khoái".

Một cô bé khác vừa vào cấp 3. Nhiều nội dung phản cảm, tiêu cực từ phim ngắn AI đã nhanh chóng thu hút em. Khi bị cha mẹ nhắc nhở, em cáu gắt, đập phá đồ đạc... Việc học tập giảm sút... Bác sĩ chẩn đoán em bị rối loạn cảm xúc.

Em cho biết: "Em chỉ muốn thoát ra thôi chị ơi. AI tóc hồng, tóc đỏ chạy đua thi đua với nhau. Nó rất nhầy nhụa. Nó rất phản cảm, không hay, không nên có, đánh nhau, tranh đua, đua đòi, tiêu cực, đi ngược thuần phong mỹ tục của Việt Nam".

Theo các chuyên gia, những video có cường độ kích thích cao, được tiếp nối liên tục có thể khiến người xem khó dừng lại.

Bác sĩ Nguyễn Thành Long, Viện Sức khỏe tâm thần, Bệnh viện Bạch Mai, cho biết: "Những video có cường độ kích thích cao rất dễ gây nghiện và tạo sự lệ thuộc. Nếu không kiểm soát thời gian, việc trẻ xem hàng giờ các nội dung tiêu cực, cổ súy hành vi tự hủy hoại hay tự sát".

Mất khả năng phân biệt đâu là nội dung mô phỏng, đâu là sự việc có thật. Lo âu, mất ngủ, thay đổi cảm xúc... thậm chí những hệ lụy với các em còn nguy hiểm hơn thế rất nhiều.

Luật Điện ảnh hiện đã quy định rõ việc phổ biến phim trên không gian mạng phải thực hiện phân loại và hiển thị kết quả phân loại phim theo độ tuổi. Pháp luật cũng đặt trách nhiệm đảm bảo nội dung lành mạnh với chủ thể phổ biến phim. Tuy nhiên, Cục Điện ảnh, Bộ Văn hóa, Thể thao và Du lịch cho biết một số tổ chức, cá nhân thực hiện phổ biến phim trên mạng nhưng chưa thực hiện đầy đủ các quy định này.

Ông Đặng Trần Cường, Cục trưởng Cục Điện ảnh, Bộ Văn hóa, Thể thao và Du lịch, cho biết: "Những vi phạm như dán nhãn chưa đầy đủ. Chưa đủ năng lực, bỏ qua khâu kiểm định phim, có những nội dung gây ảnh hưởng người xem, tâm lý. Thậm chí có những nội dung phim gây hại cho người xem, nêu cao tinh thần trách nhiệm cung cấp phim trên các nền tảng của không gian mạng. Đang sửa đổi Nghị định 131 quy định chi tiết Luật Điện ảnh, trong đó sẽ bổ sung trách nhiệm nền tảng trung gian hỗ trợ, cung cấp nội dung phim này".

Rõ ràng, bên cạnh việc tăng cường rà soát, hậu kiểm của cơ quan quản lý, thì các nền tảng, ứng dụng và dịch vụ cung cấp nội dung trực tuyến cũng phải tăng cường trách nhiệm quản lý nội dung được cung cấp trên hệ thống của mình. Các bậc phụ huynh cũng cần dành sự quan tâm thích đáng, giúp các con tự bảo vệ mình trước những mặt trái tiềm ẩn của phim ngắn AI có nội dung xấu độc.