Nước đầu tiên chặn truy cập Grok vì tạo ảnh khiêu dâm tràn lan

Với động thái này, Indonesia trở thành nước đầu tiên không cho phép truy cập vào chatbot AI (trí tuệ nhân tạo) của xAI.

Quyết định được đưa ra sau khi các chính phủ và cơ quan quản lý từ châu Âu đến châu Á lên án, thậm chí mở điều tra, với các nội dung mang tính gợi dục xuất hiện trên mạng xã hội X do Grok tạo ra tràn lan theo yêu cầu từ người dùng.

xAI, công ty khởi nghiệp tạo ra Grok do Elon Musk điều hành, hôm 8.1 cho biết đang hạn chế chức năng tạo và chỉnh sửa hình ảnh AI chỉ dành cho người dùng trả phí, trong bối cảnh nỗ lực khắc phục các lỗ hổng bảo mật cho phép tạo nội dung khiêu dâm, gồm cả ảnh phụ nữ và trẻ vị thành niên mặc đồ hở hang.

“Chính phủ coi việc tạo và lan truyền hình ảnh khiêu dâm giả mạo mà không có sự đồng thuận là hành vi xâm phạm nghiêm trọng quyền con người, nhân phẩm và an ninh của công dân trong không gian số”, bà Meutya Hafid, Bộ trưởng Truyền thông và Kỹ thuật số Indonesia, tuyên bố.

Bộ này cũng đã triệu tập đại diện của X để thảo luận về vấn đề trên.

Indonesia, quốc gia có dân số theo đạo Hồi lớn nhất thế giới, áp dụng các quy định nghiêm ngặt, cấm chia sẻ trực tuyến những nội dung bị coi là khiếm nhã hoặc đồi trụy.

Grok bị lạm dụng để tạo ảnh AI khiêu dâm tràn lan trên X thời gian qua, gây ra phản ứng dữ dội từ cơ quan quản lý từ châu Âu đến châu Á - Ảnh: Internet

Trước đó, Elon Musk viết trên X rằng bất kỳ ai sử dụng Grok để tạo nội dung bất hợp pháp sẽ phải chịu hậu quả tương tự như khi tải lên nội dung bất hợp pháp.

Tại châu Á, ngoài Indonesia, Ấn Độ và Malaysia đã phản ứng trước việc Grok tạo ảnh khiêu dâm tràn lan trên X.

Bộ Công nghệ Thông tin Ấn Độ ngày 2.1 gửi thông báo chính thức đến X về việc Grok bị cáo buộc tạo hoặc chia sẻ hình ảnh khiêu dâm, yêu cầu gỡ bỏ nội dung và báo cáo trong vòng 72 giờ về các biện pháp đã thực hiện.

Hôm 3.1, Cơ quan quản lý truyền thông Malaysia (MCMC) cho biết sẽ triệu tập X và mở cuộc điều tra về việc Grok bị cáo buộc sử dụng để tạo nội dung khiêu dâm, đồng thời cảnh báo rằng hành vi này có thể vi phạm Điều 233 của Đạo luật Truyền thông và Đa phương tiện Malaysia 1998.

Ở châu Âu, Thủ tướng Anh Keir Starmer cho biết không loại trừ khả năng cấm X tại nước này và cho rằng các hành động của họ là "bất hợp pháp". Hôm 9.1, Bộ trưởng Công nghệ Anh Liz Kendall nói bà kỳ vọng cơ quan quản lý truyền thông nước này (Ofcom) sẽ có hành động với X “trong vài ngày, không phải vài tuần”. Liz Kendall lưu ý rằng Ofcom có thẩm quyền phạt tiền rất nặng hoặc thậm chí chặn dịch vụ tại Anh nếu không tuân thủ.

"X cần phải kiểm soát và gỡ bỏ những nội dung này", bà nói.

Trước áp lực ngày càng tăng, xAI thông báo giới hạn tính năng tạo ảnh AI của Grok trên X chỉ dành cho người đăng ký trả phí. Thông báo cũng kèm theo một liên kết dẫn người dùng đến gói đăng ký hàng năm trị giá 395 USD của X.

Theo Reuters, người dùng X vẫn có thể tạo ra những ảnh mang tính gợi dục bằng cách sử dụng thẻ Grok và sau đó tải chúng lên X. Ứng dụng Grok độc lập, hoạt động riêng biệt với X, vẫn cho phép người dùng tạo ảnh mà không cần đăng ký trả phí, nhưng hạn chế ảnh hở hang quá mức.

Theo các chuyên gia, thay đổi trên X có thể ngay lập tức hạn chế lượng nội dung khiêu dâm và gây hại mà nền tảng này tạo ra. Tuy nhiên, biện pháp này chỉ là một bước đi tối thiểu, mang tính “chữa cháy”, không giải quyết được những tổn hại thực sự do các hình ảnh khiêu dâm không được đồng thuận gây ra.

“Quyết định gần đây về việc giới hạn quyền tạo ảnh bằng Grok chỉ cho người dùng X trả phí không chỉ không đủ, mà còn thương mại hóa hành vi lạm dụng. Việc này có thể làm giảm phần nào số lượng và giúp cải thiện khả năng truy vết, nhưng hành vi lạm dụng vẫn chưa bị chấm dứt. Nó chỉ đơn giản bị đặt sau một bức tường trả phí, cho phép X kiếm lợi từ những tổn hại đó”, Emma Pickering, trưởng bộ phận nghiên cứu về lạm dụng bằng công nghệ tại Refuge (tổ chức từ thiện hỗ trợ nạn nhân bạo hành gia đình ở Anh), tuyên bố.

Chính phủ Anh cũng cho biết việc thay đổi giới hạn việc tạo hình ảnh chỉ dành cho các tài khoản trả phí là "xúc phạm" những người bị ảnh hưởng. Họ nói rằng điều này "đơn giản chỉ biến một tính năng AI cho phép tạo ảnh bất hợp pháp thành một dịch vụ cao cấp".

“Trung tâm sản xuất nội dung khiêu dâm AI với quy mô khổng lồ”

Cách đây vài ngày, hãng tin Bloomberg và các đơn vị nghiên cứu bên thứ ba cho biết Grok đã trở thành trung tâm sản xuất nội dung khiêu dâm AI với quy mô khổng lồ. Cụ thể hơn, nhà nghiên cứu công nghệ Genevieve Wu chỉ ra một con số gây sốc: Grok tạo ra trung bình khoảng 6.700 hình ảnh gợi dục mỗi giờ.

Để so sánh, các trang web chuyên về dịch vụ "cởi đồ" bằng AI lớn khác cũng chỉ tạo ra khoảng 79 ảnh trong cùng khoảng thời gian. Sự chênh lệch này cho thấy Grok đang hoạt động một cách không kiểm soát.

Carrie Goldberg, luật sư chuyên về tội phạm tình dục trực tuyến, cho biết sự lan tràn của nội dung deepfake trên X là chưa từng có tiền lệ. “Chúng tôi chưa từng thấy công nghệ nào tạo ra những hình ảnh kiểu này dễ dàng đến vậy, vì Grok là phần mềm miễn phí và được liên kết trực tiếp với X”, bà nhận định.

Nguyên nhân cốt lõi của tình trạng này nằm ở chính sách của xAI.

Brandy Nonek - Giám đốc chính sách cấp cao tại tổ chức Responsible Innovation - nói, xAI hầu như không đặt ra bất kỳ hạn chế nào với người dùng Grok, cho phép họ tạo ra nội dung gợi dục nhắm vào người thật, trong khi Anthropic, OpenAI hay Google đều có những quy định cụ thể ngay từ đầu.

"Rõ ràng xAI có cách tiếp cận hoàn toàn khác, gần như cho phép người dùng làm bất cứ điều gì họ muốn. Elon Musk tuyên bố rằng Grok thú vị và thẳng thắn hơn các chatbot khác và tự hào rằng nền tảng X là không gian tự do ngôn luận”, Brandy Nonek nói.

Sơn Vân