Grok tạo ảnh khiêu dâm tràn lan trên X, Pháp và Ấn Độ vào cuộc

Công ty khởi nghiệp xAI của Elon Musk bị chỉ trích dữ dội sau khi chatbot AI Grok tạo ra nhiều ảnh khiêu dâm, gồm cả của trẻ em, để đáp lại yêu cầu từ người dùng.

Theo hãng tin Bloomberg, Grok tạo và đăng tải ảnh trẻ vị thành niên mặc quần áo hở hang, vi phạm chính sách sử dụng chấp nhận được của chính mình, trong đó cấm việc tình dục hóa trẻ em. Một số hình ảnh vi phạm sau đó đã bị gỡ xuống.

Chính phủ Pháp cáo buộc Grok tạo ra nội dung khiêu dâm “bất hợp pháp” trên X mà không có sự đồng ý của những người liên quan, đồng thời coi đây là hành vi có khả năng vi phạm Đạo luật Dịch vụ Kỹ thuật số của Liên minh châu Âu (EU). Quy định này yêu cầu các nền tảng lớn phải giảm thiểu rủi ro lan truyền nội dung bất hợp pháp, theo tuyên bố từ chính phủ Pháp.

Đại diện của xAI, công ty phát triển Grok và điều hành X, đã không trả lời khi được đề nghị bình luận về vấn đề này.

Trong phản hồi gửi đến người dùng trên X hôm 3.1, Grok cho biết đang “khẩn trương khắc phục” vấn đề, gọi nội dung lạm dụng tình dục trẻ em là “bất hợp pháp và bị cấm”. Trong các phản hồi khác, Grok đăng rằng một công ty có thể đối mặt với hình phạt hình sự hoặc dân sự nếu cố ý tạo điều kiện hoặc không ngăn chặn loại nội dung này sau khi đã được cảnh báo. Tuy nhiên, các bài đăng từ Grok là thông điệp do AI tạo ra và không đại diện cho tuyên bố chính thức của xAI.

Parsa Tajik, thành viên nhóm kỹ thuật của xAI, phản hồi: “Cảm ơn vì đã báo cáo. Nhóm đang xem xét siết chặt hơn nữa các biện pháp bảo vệ”.

Người dùng có thể tương tác trực tiếp với Grok trên X bằng cách gắn tag tài khoản chatbot AI này trong bài đăng và yêu cầu phản hồi. Grok sẽ tạo ra văn bản và hình ảnh hiển thị dưới dạng bài đăng trên X.

Các quan chức chính phủ ở Ấn Độ và Pháp đã hứa sẽ xem xét vấn đề này.

Chính phủ Pháp cho biết đã báo cáo nội dung tình dục do Grok tạo ra cho công tố viên nước này để yêu cầu xóa bỏ ngay lập tức.

Bộ Công nghệ Thông tin Ấn Độ yêu cầu xem xét toàn diện các tính năng an toàn của Grok, theo đơn khiếu nại được đăng tải hôm 2.1 bởi Nghị sĩ Priyanka Chaturvedi.

Grok tạo ảnh khiêu dâm tràn lan trên X vài ngày qua, gây phản ứng dữ dội - Ảnh: Internet

Sự bùng nổ của các nền tảng tạo ảnh bằng AI kể từ khi ChatGPT ra mắt hồi tháng 11.2022 đã làm dấy lên những lo ngại về việc thao túng nội dung và an toàn trực tuyến nói chung. Điều này cũng góp phần làm gia tăng số lượng các nền tảng tạo ra ảnh khỏa thân giả mạo (deepfake) người thật.

Ngoài ra, việc gia tăng các công cụ có thể tạo ảnh khiêu dâm về trẻ vị thành niên cho thấy những thách thức của việc kiểm duyệt nội dung và các hệ thống an toàn được tích hợp vào mô hình AI. Những công cụ AI tuyên bố có hàng rào bảo vệ vẫn có thể bị thao túng, cho phép lan truyền nội dung khiến các tổ chức bảo vệ trẻ em lo ngại.

Internet Watch Foundation, tổ chức phi lợi nhuận chuyên xác định nội dung lạm dụng tình dục trẻ em trên mạng, cho biết số lượng hình ảnh dạng này do AI tạo ra đã tăng 400% trong 6 tháng đầu năm 2025.

“Các sản phẩm AI phải được kiểm tra nghiêm ngặt trước khi đưa ra thị trường để đảm bảo chúng không có khả năng tạo ra loại nội dung này”, Kerry Smith, Giám đốc điều hành Internet Watch Foundation, nhấn mạnh.

Grok nhiều lần gây tranh cãi

xAI đã định vị Grok là chatbot và mô hình AI dễ dãi hơn so với sản phẩm của các hãng khác. Mùa hè năm ngoái, Grok đã được bổ sung “Chế độ gợi cảm” cho phép hình ảnh khỏa thân một phần của người lớn và nội dung mang tính gợi dục. Tuy nhiên, Grok cấm nội dung khiêu dâm liên quan đến ảnh người thật và nội dung tình dục về trẻ vị thành niên. xAI gọi việc tạo ra hoặc phân phối những nội dung này là bất hợp pháp.

Trước đây, công ty AI của Elon Musk nhiều lần gây tranh cãi vì bị sử dụng sai mục đích hoặc mắc khiếm khuyết trong thiết kế hoặc công nghệ nền tảng cho Grok.

Hồi tháng 5.2025, X từng hứng chịu phản ứng dữ dội sau khi Grok tạo ra các bình luận không được yêu cầu về “diệt chủng người da trắng” ở Nam Phi. Hai tháng sau, Grok đăng các bình luận bài Do Thái và ca ngợi Adolf Hitler.

Bất chấp những sự cố này, xAI vẫn tiếp tục ký kết được thỏa thuận đáng chú ý.

Bộ Quốc phòng Mỹ đã bổ sung Grok vào nền tảng các tác tử AI của mình vào tháng 12. Ngoài ra, Grok hiện là chatbot chính cho các nền tảng cá cược dự đoán như Polymarket và Kalshi.

Chính sách về trẻ vị thành niên của OpenAI và Google

Khi tạo ảnh bằng AI ngày càng phổ biến, công ty đứng sau những công cụ hàng đầu đã ban hành chính sách về việc mô tả trẻ vị thành niên. OpenAI cấm mọi nội dung tình dục hóa trẻ em dưới 18 tuổi và cấm bất kỳ người dùng nào cố gắng tạo ra hoặc tải lên nội dung như vậy.

Google cũng có các chính sách tương tự, cấm bất kỳ ảnh nào của trẻ vị thành niên mà có thể nhận dạng được, nếu ảnh đó bị chỉnh sửa để thể hiện hành vi tình dục.

Từng hợp tác với X, Black Forest Labs nằm trong số công ty AI cho biết đã lọc bỏ ảnh lạm dụng và bóc lột trẻ em khỏi các tập dữ liệu được sử dụng để đào tạo các mô hình.

Năm 2023, các nhà nghiên cứu phát hiện ra rằng tập dữ liệu công khai khổng lồ được sử dụng để xây dựng các mô hình tạo ảnh AI phổ biến chứa ít nhất 1.008 trường hợp lạm dụng tình dục trẻ em.

Nhiều công ty phải đối mặt với lời chỉ trích vì không bảo vệ trẻ vị thành niên khỏi nội dung tình dục. Hồi mùa hè 2025, Meta Platforms thông báo đang cập nhật các chính sách của mình sau khi bản tin từ Reuters phát hiện ra rằng các quy tắc nội bộ công ty này cho phép chatbot của họ trò chuyện lãng mạn và gợi cảm với trẻ em.

Sơn Vân