Liên hợp quốc: AI bị lợi dụng để xâm hại trẻ em, biện pháp bảo vệ chưa theo kịp
Đại diện đặc biệt của Tổng Thư ký LHQ về chống bạo lực đối với trẻ em, cho rằng phần lớn các vụ xâm hại trẻ em có sử dụng AI vẫn chưa được trình báo hoặc chưa được xử lý thích đáng.

Ảnh minh họa có sử dụng Trí tuệ nhân tạo.
Ngày 19/11, các quan chức cấp cao của Liên hợp quốc cảnh báo trí tuệ nhân tạo (AI) đang bị các đối tượng xâm hại tình dục và các nhóm tội phạm lợi dụng để dụ dỗ, tống tiền và bóc lột trẻ em, trong khi các biện pháp bảo vệ trẻ em trên môi trường số chưa theo kịp tốc độ phát triển của công nghệ.
Tại sự kiện cấp cao của Đại hội đồng Liên hợp quốc ở New York về những rủi ro và cơ hội của AI trong phòng, chống bạo lực đối với trẻ em, bà Najat Maalla M’jid, Đại diện đặc biệt của Tổng Thư ký Liên hợp quốc về chống bạo lực đối với trẻ em, cho rằng sự chậm trễ trong ứng phó từng khiến các nỗ lực bảo vệ trẻ em trên mạng xã hội rơi vào thế bị động. Bà nhấn mạnh tình trạng này đang lặp lại với AI.
Theo bà M’jid, các đối tượng có thể lợi dụng chatbot để lấy lòng tin của trẻ em, thu thập thông tin cá nhân và ép buộc các em chia sẻ hình ảnh nhạy cảm. Hình ảnh giả mạo do các ứng dụng chỉnh sửa ảnh tạo ra cũng bị sử dụng để đe dọa và bóc lột trẻ em.
Các công cụ phân tích dữ liệu cá nhân còn có thể giúp các đối tượng xâm hại, buôn người và các nhóm tội phạm dễ dàng tiếp cận những trẻ em dễ bị tổn thương.
Dẫn số liệu của Trung tâm Quốc gia về trẻ em mất tích và bị bóc lột của Mỹ, bà M’jid cho biết số báo cáo về tài liệu xâm hại tình dục trẻ em có liên quan đến AI tạo sinh đã tăng 1.325% trong giai đoạn 2023-2024.
Bà lưu ý phần lớn các vụ xâm hại trẻ em có sử dụng AI vẫn chưa được trình báo hoặc chưa được xử lý thích đáng. Trong khi đó, Phó Tổng Thư ký Liên hợp quốc Amina Mohammed dẫn một nghiên cứu gần đây của Quỹ Nhi đồng Liên hợp quốc (UNICEF) cho biết trong năm qua, hình ảnh của ít nhất 1,2 triệu trẻ em tại 11 quốc gia đã bị sử dụng để tạo nội dung giả mạo (deepfake) mang tính tình dục.
Ông John Trenary, người có hơn 25 năm kinh nghiệm điều tra các vụ bóc lột trẻ em, nhận định khả năng tự động hóa của AI giúp các đối tượng mở rộng quy mô xâm hại, trong khi các thủ đoạn mới liên tục xuất hiện khiến công tác điều tra khó theo kịp.
Bà Kay Chau, đại diện Liên minh Công nghệ (Tech Coalition), cho biết các đối tượng có thể lợi dụng chatbot để mô phỏng tình huống xâm hại hoặc soạn kịch bản dụ dỗ trẻ em, trong khi các hệ thống AI có khả năng tự thực hiện nhiệm vụ (agentic AI) làm phát sinh thêm rủi ro. Mức độ tin tưởng của trẻ em đối với trợ lý AI cũng là vấn đề được nêu tại sự kiện.
Bà Mariana Rozo-Paz thuộc tổ chức Datasphere Initiative dẫn trường hợp một nhóm nữ sinh ở vùng nông thôn Colombia xem trợ lý AI Lucia như một người bạn, khi các em trò chuyện với Lucia hằng ngày và tìm đến trợ lý này để hỏi những điều người lớn không muốn trả lời.
Trường hợp này cho thấy cần tăng cường giám sát các công cụ AI mà trẻ em thường xuyên sử dụng, trong bối cảnh đây có thể là cửa ngõ để các đối tượng xấu lợi dụng tiếp cận.
Tháng Bảy vừa qua, Tổng Thư ký Liên hợp quốc António Guterres đã phát động Cam kết Bảo vệ trẻ em trước AI, kêu gọi chứng nhận an toàn đối với các hệ thống AI trước khi trẻ em tiếp cận, đồng thời áp dụng chính sách không khoan nhượng đối với tài liệu xâm hại tình dục trẻ em do AI tạo ra.
Bà M’jid đề nghị xây dựng các tiêu chuẩn toàn cầu về quản trị AI, trong đó yêu cầu tích hợp các biện pháp bảo đảm an toàn và bảo vệ quyền riêng tư của trẻ em ngay từ khâu thiết kế.
Bà Mohammed cũng lưu ý AI có thể hỗ trợ phát hiện nội dung xâm hại, xác định danh tính nạn nhân và nhận biết sớm dấu hiệu dụ dỗ trẻ em. Dẫn một nghiên cứu của Quỹ Tuổi thơ Thế giới, Tổng Thư ký quỹ Paula Guillet de Monthoux cho biết chính những người trẻ cũng nhận thấy công tác giám sát chưa theo kịp sự phát triển của công nghệ.
Bà nhấn mạnh trách nhiệm của người lớn là chứng minh bằng hành động rằng họ có thể bảo vệ trẻ em trên môi trường số./.


