3 nghị sĩ yêu cầu Apple, Google gỡ ứng dụng X và Grok vì lan truyền ảnh khiêu dâm

Chatbot Grok của công ty khởi nghiệp xAI bị lạm dụng để tạo ảnh AI khiêu dâm tràn lan trên X những ngày qua, gây ra phản ứng dữ dội của cơ quan quản lý từ châu Âu đến châu Á.

Trong một bức thư được công bố hôm 9.1, ba thượng nghị sĩ Mỹ thuộc đảng Dân chủ gồm Ron Wyden (bang Oregon), Ben Ray Lujan (bang New Mexico), Edward Markey (bang Massachusetts) cho biết, Google và Apple "phải gỡ bỏ các ứng dụng này khỏi cửa hàng ứng dụng cho đến khi các vi phạm chính sách của X được giải quyết".

X, mạng xã hội thuộc sở hữu của Elon Musk, bị các quan chức trên khắp thế giới chỉ trích kể từ tuần trước, khi Grok bắt đầu làm tràn ngập trang web bằng các hình ảnh AI về phụ nữ mang tính gợi dục, gồm cả trẻ vị thành niên.

Bức thư của ba thượng nghị sĩ, được trang NBC News đưa tin đầu tiên, lưu ý rằng Google có các điều khoản dịch vụ cấm các nhà sản xuất ứng dụng "tạo, tải lên hoặc phân phối nội dung tạo điều kiện cho việc bóc lột hoặc lạm dụng trẻ em". Theo họ, các điều khoản dịch vụ của Apple cũng cấm "nội dung mang tính tình dục hoặc khiêu dâm".

Ba thượng nghị sĩ lưu ý rằng trong quá khứ, cả hai gã khổng lồ công nghệ Apple và Google đều đã nhanh chóng loại bỏ các ứng dụng vi phạm khỏi nền tảng của họ.

"Làm ngơ trước hành vi nghiêm trọng của X sẽ biến các hoạt động kiểm duyệt từ quý vị thành trò cười", theo bức thư.

Google và Apple không trả lời ngay lập tức khi được hãng tin Reuters đề nghị bình luận về chuyện này.

X đã dẫn Reuters đến một bài đăng ngày 2.1, trong đó nói rằng mạng xã hội này đang hành động "chống lại nội dung bất hợp pháp trên X, gồm cả nội dung lạm dụng tình dục trẻ em".

xAI, công ty mẹ X và vận hành Grok, không trả lời các câu hỏi cụ thể về bức thư hoặc nội dung khiêu dâm do Grok tạo ra.

Elon Musk bị tố kiếm lợi nhuận từ hình ảnh phản cảm

Elon Musk từng phản hồi bằng biểu tượng cảm xúc cười ra nước mắt với những bức ảnh đã được chỉnh sửa bằng AI về những người nổi tiếng mặc bikini và đăng bài nhiều lần mỗi ngày về mức độ phổ biến của X. Có lúc tỷ phú giàu nhất thế giới đổ lỗi cho người dùng về nội dung bất hợp pháp do Grok của mình tạo ra. Cụ thể hơn, Giám đốc điều hành xAI nói rằng: "Bất cứ ai sử dụng Grok để tạo ra nội dung bất hợp pháp sẽ phải chịu hậu quả tương tự như khi họ tải lên nội dung bất hợp pháp".

Thượng nghị sĩ Ron Wyden tố Elon Musk lại thu lợi từ việc lạm dụng trẻ em - Ảnh: Getty Images

Hôm 9.1, Bộ trưởng Công nghệ Anh Liz Kendall cho biết bà kỳ vọng cơ quan quản lý truyền thông nước này (Ofcom) sẽ có hành động với X “trong vài ngày, không phải vài tuần”. Bà Liz Kendall lưu ý rằng Ofcom có thẩm quyền phạt tiền rất nặng hoặc thậm chí chặn dịch vụ tại Anh nếu không tuân thủ.

"X cần phải kiểm soát và gỡ bỏ những nội dung này", bà nói.

Trước đó, Thủ tướng Anh Keir Starmer cho biết không loại trừ khả năng cấm X tại nước này và cho rằng các hành động của họ là "bất hợp pháp".

Ngày 8.1, Ủy ban châu Âu đã gia hạn lệnh yêu cầu X giữ lại và bảo toàn tất cả nội dung, dữ liệu nội bộ liên quan đến Grok cho đến cuối năm 2026, do lo ngại về các ảnh mang khiêu dâm mà chatbot AI này tạo ra.

Ở Pháp, các bộ trưởng chính phủ ngày 2.1 nói đã chuyển nội dung khiêu dâm do Grok tạo ra trên X đến công tố viên và cũng thông báo cho Cơ quan quản lý truyền thông Pháp (Arcom) kiểm tra việc nền tảng này có tuân thủ Đạo luật Dịch vụ Kỹ thuật số của EU hay không.

Bộ trưởng Truyền thông Đức Wolfram Weimer kêu gọi Ủy ban châu Âu hành động pháp lý, cho rằng quy định của EU cung cấp công cụ để xử lý nội dung bất hợp pháp và vấn đề này có nguy cơ trở thành “công nghiệp hóa quấy rối tình dục”.

Hôm 8.1, Cơ quan bảo vệ dữ liệu Ý cảnh báo rằng việc sử dụng AI tạo ảnh deepfake “cởi đồ” của người thật mà không có sự đồng ý, có thể cấu thành hành vi vi phạm quyền riêng tư nghiêm trọng và trong một số trường hợp là tội hình sự.

Các nhà lãnh đạo chính trị Thụy Điển lên án nội dung mang tính gợi dục do Grok tạo ra sau khi có báo cáo rằng hình ảnh liên quan đến nữ phó thủ tướng Thụy Điển được tạo từ yêu cầu của người dùng.

Bộ Công nghệ Thông tin Ấn Độ ngày 2.1 gửi thông báo chính thức đến X về việc Grok bị cáo buộc tạo hoặc chia sẻ hình ảnh khiêu dâm, yêu cầu gỡ bỏ nội dung và báo cáo trong vòng 72 giờ về các biện pháp đã thực hiện.

Ngày 3.1, Cơ quan quản lý truyền thông Malaysia (MCMC) cho biết sẽ triệu tập X và mở cuộc điều tra về việc Grok bị cáo buộc sử dụng để tạo nội dung khiêu dâm, đồng thời cảnh báo rằng hành vi này có thể vi phạm Điều 233 của Đạo luật Truyền thông và Đa phương tiện Malaysia 1998.

Trước áp lực ngày càng tăng, xAI thông báo giới hạn tính năng tạo ảnh AI của Grok trên mạng xã hội X chỉ dành cho người đăng ký trả phí. Thông báo cũng kèm theo một liên kết dẫn người dùng đến gói đăng ký hàng năm trị giá 395 USD của X.

Theo Reuters, người dùng X vẫn có thể tạo ra những ảnh mang tính gợi dục bằng cách sử dụng thẻ Grok và sau đó tải chúng lên X. Ứng dụng Grok độc lập, hoạt động riêng biệt với X, vẫn cho phép người dùng tạo ảnh mà không cần đăng ký trả phí, nhưng hạn chế ảnh hở hang quá mức.

Thượng nghị sĩ Ron Wyden cho biết những điều chỉnh này không làm giảm bớt mối lo ngại của ông.

"Tất cả những thay đổi của X chỉ khiến một số người dùng phải trả tiền để được tạo ra những hình ảnh kinh khủng trên ứng dụng X, trong khi Elon Musk lại thu lợi từ việc lạm dụng trẻ em", ông viết trong một email.

"Biến tính năng AI tạo ảnh bất hợp pháp thành dịch vụ cao cấp"

Theo các chuyên gia, thay đổi trên X có thể ngay lập tức hạn chế lượng nội dung khiêu dâm và gây hại mà nền tảng này tạo ra. Tuy nhiên, biện pháp này chỉ là một bước đi tối thiểu, mang tính “chữa cháy”, không giải quyết được những tổn hại thực sự do các hình ảnh khiêu dâm không được đồng thuận gây ra.

“Quyết định gần đây về việc giới hạn quyền tạo ảnh bằng Grok chỉ cho người dùng X trả phí không chỉ không đủ, mà còn thương mại hóa hành vi lạm dụng. Việc này có thể làm giảm phần nào số lượng và giúp cải thiện khả năng truy vết, nhưng hành vi lạm dụng vẫn chưa bị chấm dứt. Nó chỉ đơn giản bị đặt sau một bức tường trả phí, cho phép X kiếm lợi từ những tổn hại đó”, Emma Pickering, trưởng bộ phận nghiên cứu về lạm dụng bằng công nghệ tại Refuge (tổ chức từ thiện hỗ trợ nạn nhân bạo hành gia đình ở Anh), tuyên bố.

Theo BBC, chính phủ Anh cũng cho biết việc thay đổi giới hạn việc tạo hình ảnh chỉ dành cho các tài khoản trả phí là "xúc phạm" những người bị ảnh hưởng. Họ nói rằng điều này "đơn giản chỉ biến một tính năng AI cho phép tạo ảnh bất hợp pháp thành một dịch vụ cao cấp".

Sơn Vân