Sản xuất nội dung thời AI, không hiểu luật, dễ lạc lối

AI - Cơ hội lớn đi kèm rủi ro mới

Trong bối cảnh công nghệ AI tạo sinh đang thay đổi mạnh mẽ cách thức sản xuất nội dung, từ viết caption, chỉnh sửa hình ảnh, video đến phân tích hành vi người xem, các nhà sáng tạo nội dung ngày nay có thêm nhiều công cụ hỗ trợ sáng tạo. Bên cạnh đó có không ít thách thức, đặc biệt liên quan đến quyền riêng tư, tính xác thực và bảo mật thông tin.

Vừa qua, Samsung đã tổ chức lễ hội sáng tạo nội dung “The Ultra Fest. Unfolds” tại TP.HCM, quy tụ các chuyên gia đến từ Google, Younet Media, Golden Communication Group, Công an TP.HCM và VCCorp.

Theo ông Phạm Xuân Hà, Giám đốc mảng Công nghệ và Xe tại VCCorp, thành viên Ban Truyền thông của Hiệp hội An ninh mạng Quốc gia, công nghệ AI đang tạo ra làn sóng đổi mới mạnh mẽ, trở thành công cụ đắc lực cho người sản xuất nội dung, nhưng đi kèm đó là những rủi ro liên quan đến tính xác thực, quyền riêng tư và bảo mật.

Ông Phạm Xuân Hà, Giám đốc mảng Công nghệ và Xe tại VCCorp.

Khi sáng tạo gắn liền với trách nhiệm

Bên cạnh đó, Đại úy Võ Minh Nghĩa, cán bộ Đội An ninh mạng, Phòng An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao Công an TP.HCM (PA05) cũng chia sẻ một số vấn đề liên quan đến Luật An ninh mạng, sáng tạo có trách nhiệm trong kỷ nguyên số.

Đại úy Võ Minh Nghĩa, cán bộ Đội An ninh mạng, Phòng An ninh mạng và phòng, chống tội phạm sử dụng công nghệ cao Công an TP.HCM (PA05) chia sẻ những lưu ý khi sản xuất nội dung thời AI.

Trước đó không lâu, tại một buổi họp báo ở Trung tâm Báo chí TP.HCM, Đại úy Võ Minh Nghĩa cho biết PA05 đã phối hợp cơ quan chức năng xử lý nhiều KOL, KOC, Influencer vì phát tán thông tin sai lệch, vi phạm pháp luật hoặc gây rối trật tự công cộng trên mạng. Một số trường hợp tiêu biểu được PA05 liệt kê gồm TikToker N.O.N, người mẫu N.E, TikToker H.Q.A, YouTuber L.V.C hay các đối tượng đăng video phản cảm như nhóm “khiêng quan tài” tại chợ Bến Thành…

“Khi tham gia trên không gian mạng, KOL, Influencer cần hết sức cẩn trọng trước khi đăng tải nội dung, chủ động nghiên cứu quy định pháp luật liên quan, tập trung sản xuất nội dung mang màu sắc cá nhân gắn liền với lợi ích cộng đồng, giá trị thương hiệu, đồng hành với Nhà nước để lan tỏa thế mạnh quốc gia”, ông Nghĩa nhấn mạnh.

Tiểu Minh