Cảnh báo: AI tạo ảnh khiêu dâm từ các bộ ảnh kỷ yếu của học sinh

Các nữ sinh Nhật lại đối mặt với nỗi lo mới

Đáng chú ý là trong một số trường hợp, chính trẻ vị thành niên lại là thủ phạm, khi các em học sinh tiểu học, trung học cơ sở và trung học phổ thông đã sử dụng công nghệ "deepfake" thông qua các trang web tạo AI và những công cụ khác.

Số lượng báo động đến mức phải điều tra

Số lượng báo cáo về những vụ việc này đang gia tăng trên toàn quốc. Cơ quan Cảnh sát Quốc gia Nhật Bản (NPA) dự định sẽ điều tra các trang web tạo ảnh AI lớn để phanh phui hành vi sai trái và đề ra các biện pháp phòng ngừa.

Tại miền đông Nhật Bản, một học sinh tiểu học nam đã bị cáo buộc tạo ra hình ảnh khỏa thân giả của một nữ sinh trung học cùng lớp thể thao, rồi đăng lên một nhóm chat trên mạng xã hội. Cảnh sát cho biết cậu bé khai: "Em đã dùng AI tạo sinh để chỉnh sửa ảnh mặt của một bạn gái mà em thích".

Nhiều trang web và ứng dụng cho phép người dùng tạo ảnh bằng cách đưa ra yêu cầu cho AI, và một số trang còn cho phép tạo ảnh khiêu dâm giả dựa trên ảnh của trẻ em. Cậu bé nói trên được cho là đã sử dụng những bức ảnh được chia sẻ trong nhóm lớp.

Theo NPA, cảnh sát đã nhận được hơn 100 yêu cầu tư vấn và báo cáo liên quan đến hình ảnh khiêu dâm giả của trẻ vị thành niên trong năm ngoái. Hầu hết các vụ việc đều có nội dung tố cáo như "Những hình ảnh khỏa thân được ghép với mặt tôi đang có trên mạng xã hội."

Nạn nhân chủ yếu là học sinh trung học cơ sở và trung học phổ thông, nhưng cũng có cả học sinh tiểu học. Trong hầu hết các trường hợp, kẻ tình nghi tạo ra những hình ảnh này là những người mà nạn nhân quen biết. Mười bảy vụ đã được xác định có liên quan đến hình ảnh được tạo bằng AI từ ảnh chụp tại các sự kiện trường học và kỷ yếu.

Cũng đã có những vụ việc nghiêm trọng đến mức phải tiến hành điều tra hình sự. Ở vùng Tokai, miền trung Nhật Bản, một nam sinh trung học cơ sở đã bị khởi tố vì nghi ngờ bôi nhọ danh dự sau khi tạo ra một bức ảnh khỏa thân giả của một nữ bạn học cùng lớp và chia sẻ nó với bạn bè.

Việc sở hữu và sản xuất hình ảnh khiêu dâm trẻ em bị pháp luật trừng phạt theo luật phòng chống mại dâm và khiêu dâm trẻ em. Tuy nhiên, luật này chỉ áp dụng với các trường hợp sử dụng hình ảnh thật của trẻ em, nên việc truy tố các vụ deepfake gặp khó khăn.

Vì vậy, cảnh sát Nhật trên toàn quốc đang phải áp dụng các luật và quy định khác để xử lý những trường hợp này. Một cuộc khảo sát của một công ty an ninh Mỹ cho thấy 95.820 video deepfake đã được phát hiện trực tuyến vào năm 2023, trong đó 98% là nội dung khiêu dâm. Một quan chức cảnh sát cấp cao cho biết: "Các trường hợp mà cảnh sát nắm được chỉ là phần nổi của tảng băng chìm".

Trước tình hình này, NPA đang tập trung vào khoảng 10 trang web và ứng dụng tạo ảnh AI đặc biệt phổ biến trong giới học sinh trung học cơ sở và trung học phổ thông. Cảnh sát sẽ điều tra hoạt động của chúng, và kết quả sẽ được sử dụng không chỉ cho các cuộc điều tra hình sự mà còn cho các chiến dịch nâng cao nhận thức nhắm vào giới trẻ thông qua các lớp học phòng chống tội phạm vị thành niên và các chương trình tương tự.

Masaki Ueda, phó giáo sư luật hình sự tại Đại học Kanagawa, một chuyên gia về các quy định liên quan đến tội khiêu dâm, cho biết: "Nếu những hình ảnh giả tinh vi này lan truyền trên mạng, nó sẽ vi phạm quyền riêng tư của những đứa trẻ có ảnh bị lạm dụng, ngay cả khi đó là ảnh giả".

Ông Ueda nói: "Gánh nặng tâm lý là rất lớn, vì vậy những hình ảnh deepfake này cần được xử lý tương tự như khiêu dâm trẻ em và cần xem xét các quy định pháp lý".

Các quốc gia ngày càng siết chặt quy định về deepfake khiêu dâm

Các động thái nhằm điều chỉnh hình ảnh deepfake khiêu dâm đang gia tăng ở nước ngoài.

Tại Hàn Quốc, một dự luật đã được thông qua vào tháng 9 năm ngoái để trừng phạt không chỉ hành vi tạo ra hình ảnh deepfake mà còn cả hành vi xem hoặc sở hữu chúng. Anh và Úc cũng đã ban hành các quy định về việc chia sẻ hình ảnh deepfake khiêu dâm.

Tại Mỹ, một đạo luật liên bang được ban hành vào tháng 5 cấm đăng tải hình ảnh hoặc video khiêu dâm lên mạng mà không có sự đồng ý của người trong ảnh. Luật này yêu cầu các nền tảng mạng xã hội và các nhà điều hành liên quan phải gỡ bỏ những hình ảnh và video đó trong vòng 48 giờ sau khi nhận được yêu cầu từ nạn nhân.

Tại Nhật Bản, chính quyền tỉnh Tottori vào tháng 8 đã sửa đổi một quy định để cấm – kèm theo hình phạt – việc tạo ra hình ảnh khiêu dâm giả bằng cách sử dụng ảnh của trẻ em.

Đã có những lời kêu gọi hành động, bao gồm cả việc ban hành luật, trong nhóm làm việc của chính phủ trung ương thảo luận về việc sử dụng internet của giới trẻ. Tuy nhiên, các cuộc thảo luận vẫn chưa tiến triển nhiều.

ChildFund Japan, một tổ chức phi chính phủ quốc tế có trụ sở tại Tokyo, đã khảo sát 1.200 nam và nữ trên toàn quốc từ tháng 1 đến tháng 2. Khoảng 70% số người được hỏi tin rằng hình ảnh khiêu dâm của trẻ em, bao gồm cả ảnh giả, nên được pháp luật quy định bất kể đối tượng trong ảnh có tồn tại thật hay không.

Bùi Tú