Mỹ: Hàng nghìn báo cáo về nội dung lạm dụng trẻ em do AI tạo ra

Trong những tháng gần đây, các chuyên gia và nhà nghiên cứu về an toàn trẻ em đã đưa ra cảnh báo về nguy cơ AI sáng tạo có thể sẽ làm trầm trọng thêm vấn nạn lạm dụng trực tuyến.

CEO Mark Zuckerberg của Meta phát biểu tại phiên điều trần của Ủy ban Tư pháp Thượng viện Mỹ vào ngày 31 tháng 1 năm 2024, trước đông đảo người tham dự mang theo những hình ảnh do AI tạo ra. Ảnh: Reuters

NCMEC vẫn chưa công bố tổng số báo cáo về nội dung lạm dụng trẻ em từ tất cả các nguồn mà họ nhận được vào năm 2023. Nhưng vào năm 2022, họ đã nhận được báo cáo khoảng 88,3 triệu tệp về vấn nạn này.

John Shehan, phó chủ tịch của NCMEC, cho biết: “Chúng tôi đang nhận được báo cáo từ chính các công ty AI sáng tạo, nền tảng (trực tuyến) và các thành viên của công chúng”.

Các CEO của Meta, X, TikTok, Snap và Discord đã dự phiên điều trần tại Thượng viện Mỹ vào thứ Tư (31/1) về sự an toàn của trẻ em trên các nền tảng trực tuyến. Các nhà lập pháp Mỹ đã đặt câu hỏi với các công ty truyền thông xã hội về nỗ lực của họ trong việc bảo vệ trẻ em khỏi những “kẻ săn mồi trực tuyến”.

Các nhà nghiên cứu tại Đài quan sát Internet Stanford cho biết trong một báo cáo vào tháng 6 năm ngoái, AI sáng tạo có thể bị những kẻ xấu sử dụng để liên tục làm hại những đứa trẻ ngoài đời thật bằng cách tạo ra những hình ảnh giả về các bé.

Fallon McNulty, giám đốc CyberTipline của NCMEC, nơi nhận báo cáo về việc bóc lột trẻ em trực tuyến, cho biết nội dung do AI tạo ra đang trở nên “ngày càng giống ảnh thật hơn”, khiến việc xác định xem nạn nhân có phải là người thật hay không trở nên khó khăn.

McNulty cho biết OpenAI, công ty tạo ra ChatGPT, đã thiết lập một quy trình gửi báo cáo tới NCMEC và tổ chức này đang đàm phán với các công ty AI khác.

Hoàng Hải (theo Reuters, FT)