Bảo vệ trẻ em trước nội dung độc hại do AI tạo ra: Thách thức mới của chuyển đổi số
Theo nghiên cứu của Childlight, số báo cáo liên quan đến AI và xâm hại tình dục trẻ em tăng hơn 8.400% trong hai năm. Những hình ảnh giả mạo có thể bị lợi dụng để đe dọa, tống tiền trẻ em, đặt ra yêu cầu cấp thiết đối với Việt Nam trong việc phát triển AI an toàn và tăng cường bảo vệ trẻ em trên không gian mạng.

Hình minh họa. Ảnh: Wikimedia Commons
Theo The Guardian ngày 16/11, nghiên cứu của Viện An toàn Trẻ em Toàn cầu Childlight cho thấy số báo cáo về hành vi bóc lột, xâm hại tình dục trẻ em có liên quan đến AI gửi tới Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột (NCMEC) của Mỹ tăng từ khoảng 4.700 năm 2023 lên hơn 400.000 năm 2025, tương đương mức tăng hơn 8.400%.
Đáng chú ý, ngay cả những hình ảnh giả mạo cũng có thể trở thành công cụ để tội phạm tống tiền, đe dọa trẻ em nhằm ép buộc các em cung cấp tiền hoặc gửi thêm hình ảnh nhạy cảm. Thực trạng này cho thấy những rủi ro mới nảy sinh khi công nghệ AI ngày càng dễ tiếp cận, trong khi các cơ chế bảo vệ trẻ em trên môi trường số chưa theo kịp tốc độ phát triển công nghệ.
AI bị lợi dụng để tạo nội dung xâm hại trẻ em
Báo cáo của Childlight tập trung phân tích dữ liệu tại Đông Á, khu vực Thái Bình Dương, Mỹ Latin, Caribe và Bắc Mỹ, bổ sung cho những nghiên cứu trước đây về Tây Âu. Nhóm nghiên cứu xem xét các báo cáo do doanh nghiệp công nghệ gửi đến Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột (NCMEC) của Mỹ.
Một trong những vấn đề đáng lo ngại là sự xuất hiện của các ứng dụng AI có khả năng chỉnh sửa hình ảnh nhằm tạo nội dung khỏa thân giả mạo, thường được gọi là ứng dụng "nudify". Công nghệ này cho phép tạo ra hình ảnh mang tính xâm hại từ ảnh thông thường của trẻ em mà không cần có hành vi tiếp xúc trực tiếp với nạn nhân.
Dù không phản ánh hình ảnh có thật, những sản phẩm giả mạo này vẫn có thể gây tổn thương nghiêm trọng. Kẻ xấu có thể sử dụng chúng để đe dọa phát tán hình ảnh, gây áp lực tâm lý hoặc tống tiền trẻ em, buộc nạn nhân chuyển tiền và cung cấp thêm nội dung nhạy cảm.
Giáo sư Debi Fry, Giám đốc dữ liệu toàn cầu của Childlight, nhận định những phát hiện mới cho thấy quy mô đáng báo động của tình trạng bóc lột và xâm hại tình dục trẻ em, đặc biệt khi các nguy cơ trên môi trường trực tuyến đang thay đổi nhanh chóng.
Theo bà Fry, việc tổng hợp dữ liệu từ khảo sát, hồ sơ cảnh sát và nhiều nguồn khác có thể giúp các chính phủ nhận diện rõ hơn những rủi ro mà trẻ em phải đối mặt, xác định lỗ hổng trong hệ thống bảo vệ và phân bổ nguồn lực can thiệp hiệu quả hơn.
Số hình ảnh xâm hại do AI tạo ra tiếp tục tăng
Những phát hiện của Childlight phù hợp với cảnh báo từ Quỹ Giám sát Internet (IWF) của Anh trong tháng 10/2026. Tổ chức này cho biết lượng nội dung xâm hại tình dục trẻ em do AI tạo ra đang gia tăng trên mạng, với số tài liệu bất hợp pháp được phát hiện và điều tra trong năm nay đã vượt tổng số của cả năm 2025.
Theo IWF, trong nửa đầu năm 2026, các chuyên gia phân tích đã phát hiện nhiều hình ảnh xâm hại tình dục trẻ em có độ chân thực cao hơn so với tổng số ghi nhận trong cả năm trước đó. Tổ chức này đã đánh giá 6.310 hình ảnh do AI tạo ra và xác định chúng đáp ứng định nghĩa pháp lý về nội dung xâm hại tình dục trẻ em, tăng khoảng 40% so với mức hơn 4.500 hình ảnh của năm 2025.
Báo cáo của IWF cho biết lượng nội dung xâm hại tình dục trẻ em do AI tạo ra đang gia tăng trên môi trường trực tuyến, cho thấy thách thức ngày càng lớn đối với các tổ chức giám sát và cơ quan thực thi pháp luật.
Không chỉ nội dung do AI tạo ra, tình trạng xâm hại tình dục trẻ em nói chung cũng đang đặt ra những thách thức lớn trên phạm vi toàn cầu. Childlight ước tính hơn 300 triệu trẻ em trên thế giới từng là nạn nhân của ít nhất một hình thức bóc lột hoặc xâm hại tình dục có sự hỗ trợ của công nghệ mỗi năm.
Tổ chức này đồng thời ước tính khoảng một trong bốn trẻ em có thể phải đối mặt với ít nhất một hình thức xâm hại trước khi tròn 18 tuổi. Nghiên cứu cũng xem xét các trường hợp xâm hại trực tiếp ngoài đời thực, không chỉ giới hạn ở môi trường mạng.
Tại Bắc Mỹ, gần 1/3 trẻ em gái và hơn 1/10 trẻ em trai từng bị xâm hại tình dục trực tiếp trong thời thơ ấu. Các hành vi được đề cập bao gồm tấn công tình dục, cưỡng hiếp và quay lén dưới váy hoặc quần áo.
Dữ liệu tại Mỹ cho thấy số báo cáo và thông báo liên quan đến nội dung xâm hại tình dục trẻ em tăng 63% trong năm 2025 so với năm trước đó. Tại Canada, mức tăng tương ứng là 18%.
Xâm hại trẻ em trên môi trường số là vấn đề y tế công cộng
Theo bà Fry, tốc độ phát triển của AI đang làm thay đổi sâu sắc các mối đe dọa đối với trẻ em. Mặc dù một phần mức tăng có thể xuất phát từ việc các nền tảng cải thiện khả năng phát hiện và báo cáo vi phạm, quy mô gia tăng trong hai năm qua vẫn cho thấy sự cấp thiết của các biện pháp ứng phó.
Bà kêu gọi chính phủ và doanh nghiệp công nghệ phối hợp để nhận diện, ngăn chặn những hình thức xâm hại mới, đồng thời nhanh chóng gỡ bỏ các nội dung bất hợp pháp trên nền tảng trực tuyến.
Paul Stanfield, Giám đốc điều hành Childlight, cho rằng hàng triệu trẻ em đang phải đối mặt với tình trạng bóc lột và xâm hại tình dục, trong khi nhiều chính phủ vẫn chưa có đầy đủ dữ liệu về địa điểm xảy ra vi phạm cũng như những nhóm trẻ em có nguy cơ cao nhất.
Ông nhấn mạnh xâm hại tình dục trẻ em không phải vấn đề không thể ngăn chặn. Các quốc gia hiện có kiến thức và công cụ cần thiết để giảm thiểu nguy cơ, nhưng cần đầu tư nhiều hơn vào hệ thống dữ liệu, tăng cường năng lực phát hiện sớm và chuyển hóa thông tin thành hành động cụ thể.
Childlight kêu gọi các chính phủ công nhận bóc lột và xâm hại tình dục trẻ em là một cuộc khủng hoảng y tế công cộng có thể phòng ngừa, thay vì chỉ xem đây là vấn đề xử lý vi phạm sau khi xảy ra. Tổ chức này cũng nhấn mạnh vai trò của hợp tác quốc tế trong việc ngăn chặn nội dung xâm hại, bảo vệ nạn nhân và xây dựng môi trường an toàn hơn cho trẻ em.
Bài toán bảo vệ trẻ em trong tiến trình chuyển đổi số tại Việt Nam
Sự gia tăng nội dung xâm hại tình dục trẻ em do AI tạo ra đặt ra yêu cầu cấp thiết đối với các quốc gia trong việc phát triển công nghệ đi đôi với bảo đảm an toàn và bảo vệ quyền con người trên không gian mạng. Đối với Việt Nam, đây cũng là vấn đề cần được quan tâm trong quá trình triển khai Nghị quyết 57-NQ/TW về phát triển khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số quốc gia.
Khi AI ngày càng được ứng dụng rộng rãi trong giáo dục, truyền thông và đời sống, việc xây dựng hệ sinh thái số an toàn cần trở thành một nội dung quan trọng của tiến trình chuyển đổi số. Việt Nam có thể chú trọng phát triển các công cụ AI phục vụ nhận diện, cảnh báo và ngăn chặn nội dung xâm hại trẻ em; tăng cường phối hợp giữa cơ quan quản lý, doanh nghiệp công nghệ và các tổ chức bảo vệ trẻ em; đồng thời nâng cao kỹ năng số cho phụ huynh, giáo viên và học sinh.
Bên cạnh giải pháp công nghệ, việc hoàn thiện cơ chế quản lý, tăng trách nhiệm của các nền tảng trực tuyến trong phát hiện và xử lý nội dung vi phạm cũng có ý nghĩa quan trọng. Phát triển AI không chỉ hướng tới nâng cao năng suất và tạo ra những giá trị kinh tế mới, mà còn cần bảo đảm công nghệ được sử dụng có trách nhiệm, góp phần xây dựng môi trường số an toàn, đặc biệt đối với trẻ em.
