Các trang web lạm dụng trẻ em do AI tạo ra tăng vọt 400%

Tổ chức này, chuyên giám sát nội dung lạm dụng tình dục trẻ em trên mạng, ghi nhận 210 trang web chứa nội dung do AI tạo ra trong 6 tháng đầu năm 2025, tăng mạnh so với con số 42 trong cùng kỳ năm trước, theo báo cáo được công bố tuần này. Trên các trang web này, có tới 1.286 video, tăng đáng kể so với chỉ hai video trong năm 2024. IWF cho biết phần lớn nội dung này trông rất chân thực, đến mức phải được xử lý theo luật pháp Anh như thể là cảnh quay thật.

Các trang web lạm dụng trẻ em được tạo ra bằng công cụ trí tuệ nhân tạo (AI) đã tăng vọt 400% trong 6 tháng đầu năm 2025.

Theo IWF, khoảng 78% video - tổng cộng 1.006 video - được xếp vào "Hạng A", mức độ nghiêm trọng nhất, bao gồm các mô tả về cưỡng hiếp, tra tấn tình dục và hành vi thú tính. Hầu hết các video liên quan đến bé gái và trong một số trường hợp, sử dụng hình ảnh của những đứa trẻ có thật.

Sự gia tăng của nội dung lạm dụng trẻ em do AI tạo ra đang khiến các cơ quan thực thi pháp luật trên toàn thế giới lo ngại. Khi các công cụ AI tạo sinh trở nên dễ tiếp cận và tinh vi hơn, chất lượng hình ảnh và video ngày càng được cải thiện, khiến việc phát hiện bằng các kỹ thuật truyền thống trở nên khó khăn hơn bao giờ hết.

Nếu như trước đây các video thường ngắn và có lỗi, thì nay IWF ghi nhận những sản phẩm dài hơn, chân thực hơn với các cảnh phức tạp và bối cảnh đa dạng. Nhà chức trách cho biết nội dung này thường được sử dụng để quấy rối và tống tiền.

"Như chúng ta đã thấy với hình ảnh tĩnh, video lạm dụng tình dục trẻ em do AI tạo ra giờ đây đã đạt đến mức không thể phân biệt với phim thật. Những đứa trẻ được mô tả thường là có thật và có thể nhận diện, tác hại mà nội dung này gây ra là có thật và mối đe dọa mà nó đặt ra có nguy cơ leo thang hơn nữa", ông Derek Ray-Hill, Giám đốc điều hành tạm quyền của IWF cho biết.

Ông Ray-Hill cho rằng IWF chưa xác định chính xác lý do tại sao những nội dung này lại lan rộng nhanh chóng, nhưng "chúng tôi có thể giả định rằng đó là do các công cụ AI ngày càng rẻ và dễ tiếp cận, đồng thời cũng dễ dàng được huấn luyện." Ông nói thêm, chỉ với một lệnh đơn giản, người dùng "có thể tạo ra 50 hình ảnh, mỗi hình mất khoảng 15 - 20 giây, trong trường hợp của nội dung lạm dụng tình dục trẻ em."

Các cơ quan thực thi pháp luật đã bắt đầu hành động. Trong một chiến dịch phối hợp đầu năm nay, Europol đã bắt giữ 25 cá nhân liên quan đến việc phát tán nội dung này. Hơn 250 nghi phạm đã được xác định tại 19 quốc gia.

IWF kêu gọi Vương quốc Anh xây dựng một khung pháp lý để đảm bảo các mô hình AI có các biện pháp kiểm soát nhằm ngăn chặn việc tạo ra loại nội dung này.

Vào tháng 2, Vương quốc Anh trở thành quốc gia đầu tiên hình sự hóa việc tạo và phân phối các công cụ AI được thiết kế để tạo nội dung lạm dụng trẻ em. Luật này cấm sở hữu các mô hình AI được tối ưu hóa để sản xuất nội dung như vậy, cũng như các tài liệu hướng dẫn cách thực hiện.

Tại Mỹ, Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột - đối tác của IWF cho biết họ đã nhận được hơn 7.000 báo cáo liên quan đến nội dung lạm dụng tình dục trẻ em do AI tạo ra trong năm 2024.

Mặc dù hầu hết các công cụ AI thương mại đều có các biện pháp bảo vệ để ngăn chặn việc tạo nội dung lạm dụng, một số mô hình mã nguồn mở hoặc tùy chỉnh lại thiếu các biện pháp bảo vệ này, khiến chúng dễ bị lạm dụng.

Đức Bình