Bài 2: Phim AI tràn lan, ai chịu trách nhiệm về nội dung độc hại?

AI đang làm cho việc tạo video và làm phim trở nên dễ hơn bao giờ hết. Nhưng một khi ai cũng có thể tạo ra hình ảnh, nhân vật, giọng nói chỉ trong thời gian ngắn thì mạng xã hội cũng ồ ạt xuất hiện các thể loại phim ngắn được làm bởi AI, trong đó không thiếu các video gợi dục, bạo lực, kích động, giả thật lẫn lộn...

Chưa kể những sản phẩm ấy được làm ra chủ yếu để "câu view" rồi từ đó kéo người xem sang ứng dụng khác, muốn xem tiếp thì phải trả tiền. Sự bùng nổ ấy đang đặt ra một câu hỏi không thể né tránh, đó là ai chịu trách nhiệm khi những nội dung độc hại được đưa thẳng đến trước mắt người dùng, trong đó có rất nhiều trẻ em và người trẻ?

Nguy cơ "cái xấu" xuất hiện ồ ạt

Không thể phủ nhận AI đang giúp các nhà sáng tạo nội dung tiết kiệm đáng kể về chi phí bởi không cần tốn nhiều tiền, không cần diễn viên, không cần trường quay, cũng chẳng cần đội ngũ kỹ xảo lớn...vẫn có thể dễ dàng tạo ra những nhân vật bắt mắt, vật dụng xa hoa hay dựng nên những bối cảnh vốn chỉ có trong trí tưởng tượng. Nhưng khi rào cản của việc sản xuất được hạ thấp, đồng nghĩa với việc bất kỳ ai cũng có thể dễ dàng tiếp cận và sử dụng. Và một trong những hệ lụy trông thấy của việc này là nhiều người sử dụng AI với mục đích không lành mạnh, cố ý tạo ra những video có nội dung độc hại để câu kéo người xem.

Trong khi đó thực tế mạng xã hội lại là mảnh đất quá thuận lợi cho việc sản xuất và phát tán ồ ạt kiểu này. Khi "lướt" Facebook, TikTok hay YouTube, người dùng không phải lúc nào cũng chủ động tìm xem một nội dung cụ thể mà thường tiếp nhận thông tin một cách ngẫu nhiên, video này nối tiếp video khác. Trong khi đó, hệ thống sẽ đề xuất liên tục các nội dung tiếp theo dựa trên thuật toán về cách mỗi người xem và tương tác. Nếu một người vô tình "va" phải một hình ảnh gợi dục, cảnh bạo lực hay tình huống gây "sốc" và tò mò dừng lại xem, đó có thể được ghi nhận là dấu hiệu họ quan tâm. Những video tương tự vì thế có thể xuất hiện ngày càng nhiều, nhất là khi chúng tiếp tục nhận được lượt xem, thích, bình luận hoặc chia sẻ rộng rãi.

Chỉ với một thiết bị thông minh và vài thông tin khai báo đơn giản, không cần kiểm chứng, một đứa trẻ đã có thể tạo tài khoản và tiếp cận mạng xã hội. Khi đó, những video AI có nội dung độc hại được tạo ra để gây "sốc", câu "view" hay khiến người xem tò mò hoàn toàn có thể xuất hiện trước mắt các em.

Đó là lý do người dùng mạng xã không nhất thiết phải tìm kiếm nội dung phản cảm mới nhìn thấy nó. Chỉ cần lướt qua, dừng lại vài giây hoặc tò mò "click" vào là đã có thể bước vào một chuỗi video gợi ý khác có nội dung tương tự. Đây là điểm khiến sự bùng nổ nội dung AI đáng lo hơn những sản phẩm bị cho là "dở" thông thường. Vì cái dở có thể bị bỏ qua, nhưng nội dung được thiết kế để gây "sốc", kích thích tò mò, đánh vào ham muốn hoặc nỗi sợ lại có khả năng giữ người xem lâu hơn và vì thế dễ được chú ý hơn.

Cái vòng luẩn quẩn này được vận hành như một vòng tròn khép kín, nội dung càng có khả năng "câu view" thì càng được chú ý, càng có cơ hội được đề xuất; càng được đề xuất thì người làm nội dung càng có lý do để tiếp tục đi quá giới hạn của đạo đức và pháp luật. Song đáng lo ngại nhất là trong thế giới “ảo” ấy có rất nhiều người trẻ, thậm chí cả trẻ em. Chỉ với một thiết bị thông minh và vài thông tin khai báo đơn giản, không cần kiểm chứng, một đứa trẻ đã có thể tạo tài khoản và tiếp cận mạng xã hội. Khi đó, những video AI có nội dung độc hại được tạo ra để gây "sốc", câu "view" hay khiến người xem tò mò hoàn toàn có thể xuất hiện trước mắt các em, cùng với vô số thông tin thật giả lẫn lộn mà một đứa trẻ chưa đủ khả năng nhận biết và tự bảo vệ mình.

Xem phim "ảo" và nỗi lo "tiền mất, tật mang"

Có một thực tế là những video AI, phim AI gây chú ý trên các kênh mạng xã hội như Facebook, TikTok...hay các nền tảng số khác đôi khi không phải sản phẩm cuối cùng. Chúng có thể chỉ là bước đầu để kéo người xem sang một ứng dụng khác. Từ một đoạn clip được cắt ở chỗ hấp dẫn nhất, một nhân vật được dựng với ngoại hình gây tò mò, một câu chuyện cố tình bỏ lửng rồi lời mời xem tiếp xuất hiện. Muốn xem tiếp, người dùng được hướng dẫn tải "app", đăng ký tài khoản, thậm chí trả tiền để xem những phần còn lại.

Vậy là mạng xã hội trở thành nơi “thả mồi”, còn ứng dụng phía sau là nơi tiếp tục giữ chân và thu tiền từ người xem. Nguy hiểm nhất là nếu các nội dung phía sau chứa nhiều cảnh gợi dục, bạo lực, ngôn ngữ kích động hoặc những câu chuyện đi ngược chuẩn mực văn hóa, thuần phong mỹ tục dân tộc thì hậu quả không còn nằm trong vài chục giây của một vài đoạn clip quảng cáo. Lúc này, người dùng đã được dẫn dụ vào một không gian nội dung khác mà họ có thể không biết rõ ai sản xuất, ai chịu trách nhiệm và nội dung ấy được kiểm soát ra sao.

Không thể coi việc "câu view" bằng nội dung phản cảm là chuyện bình thường của thị trường giải trí khi mà rất nhiều video AI, phim ngắn AI đã và đang cố tình dùng hình ảnh gợi dục để kéo người xem, lấy cảnh bạo lực làm "mồi nhử" hoặc dựng những tình huống kích động chỉ để thu hút sự quan tâm của mọi người.

Đã đến lúc cần phải nói thẳng với nhau rằng, không thể coi việc "câu view" bằng nội dung phản cảm là chuyện bình thường của thị trường giải trí khi mà rất nhiều video AI, phim ngắn AI đã và đang cố tình dùng hình ảnh gợi dục để kéo người xem, lấy cảnh bạo lực làm "mồi nhử" hoặc dựng những tình huống kích động chỉ để thu hút sự quan tâm của mọi người. Càng không thể được biện minh đơn giản rằng "người xem thích thì họ xem”. Bởi đằng sau mỗi lượt xem còn có trẻ em, học sinh, thanh thiếu niên và những người chưa đủ khả năng tự bảo vệ trước kiểu dẫn dắt vô cùng nguy hiểm ấy.

Đạo diễn, DOP Nguyên Phương, người nhiều năm làm phim và theo đuổi các đề tài xã hội cho rằng với thể loại phim tài liệu, điều không thể đánh đổi là sự thật. AI có thể giúp người làm phim kể chuyện hấp dẫn hơn, nhưng không thể lấy hình ảnh do máy tạo ra để thay cho con người và sự kiện ngoài đời. Với những câu chuyện xã hội, nếu cái thật bị thay bằng cái được dựng cho đẹp mắt, tác phẩm có thể vẫn thu hút nhưng giá trị của nó đã khác.

Quan điểm ấy càng đáng chú ý khi đặt vào dòng video AI và phim ngắn AI đang xuất hiện ngày càng nhiều trên mạng xã hội hiện nay. Những cảnh bạo lực có thể được dựng bắt mắt hơn, nhân vật gợi dục có thể được tạo ra theo đúng thị hiếu người xem, thậm chí những sự kiện chưa từng xảy ra cũng có thể được khoác lên vẻ ngoài của một đoạn video thời sự. Khi công nghệ khiến cái giả ngày càng giống thật, người xem cũng dễ bị dẫn dắt hơn nếu không đủ khả năng nhận biết và kiểm chứng thông tin.

Thuật toán "tiếp tay" cho cuộc đua "câu view"

Bày tỏ quan điểm về vấn đề này, nhà báo Hoàng Tuấn, Tổng Biên tập Tạp chí Thế giới Điện ảnh cho rằng cần nhìn sự phát triển của AI trong cả chuỗi sản xuất, phân phối và tiếp nhận. Nếu trước đây quyền sản xuất hình ảnh chủ yếu nằm trong tay những người làm phim chuyên nghiệp thì nay gần như bất kỳ ai có công cụ và ý tưởng đều có thể tạo ra sản phẩm. Điều đó mở rộng khả năng sáng tạo, nhưng đồng thời cũng khiến lượng nội dung tăng lên rất nhanh.

Tuy nhiên khi sản phẩm AI quá nhiều, người xem không thể tự mình xem và đánh giá tất cả. Lúc đó, thuật toán và các cơ chế đề xuất trở thành “người gác cửa” vô hình, quyết định phần nào trong kho nội dung khổng lồ sẽ xuất hiện trước mắt người dùng. Nếu hệ thống chỉ nhìn vào lượt xem và khả năng giữ chân, những nội dung gây "sốc" sẽ có lợi thế tự nhiên.

Nếu cái gì “không vừa mắt” cũng bị coi là phải cấm, sẽ rất dễ đi quá xa. Nhưng nếu lấy lý do “đó chỉ là giải trí” để bỏ qua nội dung độc hại thì cũng không ổn. Điều cần làm là xác định rõ nội dung nào gây hại, ai tạo ra nó, ai phát tán và ai có khả năng ngăn chặn.

Nhà báo Hoàng Tuấn, Tổng Biên tập Tạp chí Thế giới Điện ảnh

Nhà báo Hoàng Tuấn, Tổng Biên tập Tạp chí Thế giới Điện ảnh

Cũng theo nhà báo Hoàng Tuấn để xảy ra thực trạng như hiện nay, không nên quy trách nhiệm cho AI. Bởi công nghệ chỉ là công cụ, vấn đề nằm ở cách con người sử dụng nó và cách nền tảng kiểm soát việc phân phối. Theo ông, người sản xuất phải chịu trách nhiệm về nội dung mình làm ra, nền tảng phải có trách nhiệm với việc phân phối, đơn vị phổ biến phải bảo đảm tính minh bạch, còn cơ quan quản lý phải xây dựng hành lang pháp lý và xử lý vi phạm nghiêm minh.

Một điểm đáng chú ý được nhà báo Hoàng Tuấn nhấn mạnh là không nên lấy tiêu chí “hay - dở” hay “cao - thấp” làm căn cứ quản lý. Bởi một sản phẩm có thể bị đánh giá là phản cảm, nhảm nhí hoặc kém chất lượng nhưng chưa chắc đã vi phạm pháp luật. Thay vào đó, ranh giới cần dựa vào những vấn đề cụ thể như có yếu tố bạo lực, tình dục, kích động, thông tin sai lệch, xâm phạm quyền riêng tư, sử dụng trái phép hình ảnh hoặc giọng nói của người khác, đặc biệt khi đối tượng bị tác động là trẻ em. Đây là ranh giới mà theo ông là rất quan trọng. Nếu cái gì “không vừa mắt” cũng bị coi là phải cấm, sẽ rất dễ đi quá xa. Nhưng nếu lấy lý do “đó chỉ là giải trí” để bỏ qua nội dung độc hại thì cũng không ổn. Điều cần làm là xác định rõ nội dung nào gây hại, ai tạo ra nó, ai phát tán và ai có khả năng ngăn chặn.

Làm rõ trách nhiệm đội ngũ cung ứng

Ông Đặng Trần Cường - Cục trưởng Cục Điện ảnh, Bộ VHTT&DL

Từ góc độ quản lý nhà nước, ông Đặng Trần Cường - Cục trưởng Cục Điện ảnh, Bộ VHTT&DL cho rằng tranh luận không nên chỉ dừng ở chuyện hậu kiểm hay tiền kiểm mà điều quan trọng hơn là phải xác định trách nhiệm của các nhà cung ứng đến đâu. Theo đó, Điều 21 Luật Điện ảnh đã quy định rõ chủ thể đủ điều kiện phổ biến phim trên không gian mạng phải là doanh nghiệp, tổ chức chứ không phải cá nhân. Quy định này nhằm xác định rõ chủ thể chịu trách nhiệm khi phim được cung cấp cho công chúng.

Qua rà soát ban đầu, Cục Điện ảnh nhận thấy phim được đưa lên mạng theo nhiều cách gồm: trên website riêng, thông qua nền tảng dùng chung hoặc qua các ứng dụng mà người xem phải tải về để tiếp tục xem. Vấn đề trước mắt được ghi nhận chủ yếu là việc cung cấp nội dung chưa đủ điều kiện và những vi phạm về nội dung; các vấn đề khác như bản quyền, dán nhãn hay những vi phạm pháp luật liên quan vẫn cần tiếp tục rà soát.

Cũng theo ông Đặng Trần Cường, cuối tháng 9-2026 vừa qua, Cục Điện ảnh đã ban hành văn bản yêu cầu các đơn vị, tổ chức đang phổ biến phim trên không gian mạng và các nền tảng cung cấp phim tại Việt Nam khẩn trương rà soát việc phân loại, hiển thị mức phân loại, thông báo danh sách phim trước khi phổ biến và các điều kiện pháp lý liên quan.

Cùng với đó, Cục cũng yêu cầu các nền tảng truyền thông số, nền tảng trung gian và kho ứng dụng kiểm tra các phim, phim ngắn và ứng dụng phổ biến phim đang được cung cấp trên hệ thống, kịp thời ngăn chặn những nội dung được đưa lên bởi các chủ thể chưa đáp ứng đầy đủ điều kiện pháp lý.

Chỉ khoảng 1 tiếng đồng hồ sau khi văn bản được ban hành, Cục Điện ảnh nhận được hơn 100 email gửi về để hỏi về việc thực hiện các quy định hiện hành. Trong đó không ít cá nhân hỏi về việc mình đang tự sản xuất phim và muốn đưa phim lên mạng thì có vi phạm không. Giải đáp thắc mắc này, ông Đặng Trần Cường cho biết, theo Điều 21 Luật Điện ảnh 2022, cá nhân có thể sản xuất phim nếu đáp ứng các điều kiện theo quy định, nhưng chủ thể được cung cấp phim trên không gian mạng phải là doanh nghiệp, đơn vị sự nghiệp hoặc tổ chức thuộc đối tượng quy định tại khoản 1 Điều 21. Nói cách khác, cá nhân có thể tự làm phim, nhưng nếu muốn đưa phim lên không gian mạng để cung cấp cho công chúng thì không thể tự mình thực hiện với tư cách cá nhân mà phải thông qua chủ thể đáp ứng điều kiện theo Luật.

Ông Đặng Trần Cường nhấn mạnh, trong thời gian tới Cục Điện ảnh sẽ tiếp tục nghiên cứu sửa Luật Điện ảnh và Nghị định 131 theo hướng tăng trách nhiệm của các nền tảng trung gian khi đưa nội dung lên. Song song với đó là tăng cường tuyên truyền, hướng dẫn để tổ chức, cá nhân biết mình được làm gì và phải chịu trách nhiệm ở đâu.

Thực tế việc quản lý phim trên không gian mạng cũng nằm trong bài toán chung về quản lý không gian mạng mà Việt Nam và nhiều nước trên thế giới đang phải đối mặt. Đây là vấn đề liên quan đến nhiều lĩnh vực, vì vậy Cục Điện ảnh và các cơ quan chức năng có liên quan đều xác định đây là trách nhiệm chung. Trong phạm vi quản lý của mình, các cơ quan sẽ phối hợp chặt chẽ để cùng xử lý những vấn đề phát sinh trên không gian mạng.

Ông Đặng Trần Cường - Cục trưởng Cục Điện ảnh, Bộ VHTT&DL

Trước tình trạng video AI, phim AI xuất hiện ngày càng nhiều trên mạng xã hội và khó kiểm soát về nội dung, ông Đặng Trần Cường cho rằng vấn đề không nằm ở việc tác phẩm có sử dụng AI hay không, mà ở cách nội dung được cung cấp đến người xem. Bởi theo Luật, các sẩn phẩm này cần được cung cấp bởi đúng chủ thể (tổ chức, doanh nghiệp, không phải cá nhân), được phân loại, hiển thị mức phân loại và cảnh báo nội dung phù hợp, đồng thời có các biện pháp kỹ thuật để bảo vệ trẻ em. Khi những yêu cầu này được thực hiện đầy đủ, nhiều nguy cơ trong việc đưa phim có nội dung "xấu" lên không gian mạng sẽ được hạn chế.

"Công nghệ chỉ là công cụ hỗ trợ quá trình làm phim, còn yếu tố quyết định vẫn là sự sáng tạo của con người. Vì vậy, thay vì đặt vấn đề hạn chế việc sử dụng AI, điều cần thiết là quản lý trách nhiệm của các chủ thể tham gia vào quá trình sản xuất, cung cấp và phân phối nội dung, để công nghệ không trở thành cách dễ dàng đưa những sản phẩm chưa đủ điều kiện đến với người xem." - Cục trưởng Cục Điện ảnh khẳng định.

Công nghệ AI đang mở ra cách thức mới để tạo và phổ biến video, phim trên môi trường số

Khách quan nhìn nhận, AI không tự làm ra những video có nội dung phản cảm, thậm chí là độc hại để "câu kéo" người xem, nó cũng không tự đưa các video ấy đến người dùng. Đằng sau đó vẫn là con người và một hệ thống phân phối do con người xây dựng. Vì vậy, nếu chỉ yêu cầu người dùng hãy tỉnh táo, trong khi để mặc những nội dung độc hại được sản xuất hàng loạt và phát tán nhan nhản trên khắp các nền tảng thì rõ ràng là chưa đủ.

Điều đáng lo ngại nhất không chỉ là những video “xấu” xuất hiện trên mạng, mà là những nội dung như vậy bây giờ có thể được làm ra rất nhanh, rất nhiều và lan rộng đi khắp nơi. Người xem đôi khi không tìm, nhưng vẫn có thể bắt gặp chúng ngay trong lúc đang lướt mạng. Khi sự tò mò bị biến thành cách "câu kéo" lượt xem, "câu" tiền, trong khi trẻ em và người trẻ lại tiếp xúc với những nội dung ấy mỗi ngày, câu chuyện đã vượt ra ngoài chuyện công nghệ hay giải trí. Đó là câu chuyện về cách chúng ta đối xử với người xem, nhất là những người còn chưa đủ khả năng tự nhận biết và bảo vệ mình trước cái xấu trên không gian mạng.