Ấn Độ yêu cầu X xử lý nội dung đồi trụy liên quan đến mô hình AI Grok

Biểu tượng Grok. Ảnh: REUTERS/TTXVN

Theo hãng thông tấn PTI, quyết định gia hạn được đưa ra sau khi X đề nghị thêm thời gian làm việc với Bộ Công nghệ Thông tin Ấn Độ. Trước đó, Bộ này yêu cầu công ty do ông Elon Musk lãnh đạo phải nộp báo cáo trong vòng 72 giờ, tức hạn chót ban đầu là ngày 5/1.

Trong thông báo đăng trên tài khoản Safety hôm 4/1, X cho biết sẽ có hành động đối với mọi nội dung vi phạm pháp luật trên nền tảng, thông qua việc gỡ bỏ nội dung, đình chỉ vĩnh viễn tài khoản và phối hợp với chính quyền địa phương cũng như cơ quan thực thi pháp luật. Công ty cũng nhấn mạnh rằng người sử dụng đưa ra câu lệnh cho Grok nhằm tạo nội dung trái phép sẽ phải chịu hậu quả tương tự như việc trực tiếp tải nội dung đó lên nền tảng.

Cảnh báo của chính phủ Ấn Độ được ban hành ngày 2/1, trong đó yêu cầu X phải ngay lập tức gỡ bỏ toàn bộ nội dung dung tục, khiêu dâm và trái pháp luật, đặc biệt là các nội dung được tạo ra bởi Grok, mô hình trí tuệ nhân tạo tích hợp trên nền tảng. Bộ Công nghệ Thông tin Ấn Độ cho rằng Grok đang bị người dùng lợi dụng để tạo các tài khoản giả, phát tán hình ảnh hoặc video khiêu dâm nhắm vào phụ nữ theo cách mang tính bôi nhọ và xúc phạm.

Theo nội dung văn bản cảnh báo, tình trạng vi phạm không chỉ dừng ở việc tạo tài khoản giả, mà còn nhắm tới cả những phụ nữ đăng tải hình ảnh hoặc video cá nhân, thông qua các câu lệnh và kỹ thuật chỉnh sửa hình ảnh từ AI. Bộ này đánh giá đây là biểu hiện của sự thất bại nghiêm trọng trong cơ chế bảo vệ và thực thi ở cấp độ nền tảng, đồng thời là hành vi lạm dụng công nghệ AI một cách sai trái.

Chính phủ cho biết các quy định của Luật Công nghệ Thông tin và các văn bản hướng dẫn liên quan đang bị vi phạm, đặc biệt đối với các nội dung mang tính khiêu dâm, dung tục, đồi trụy, ấu dâm hoặc gây hại khác. Bộ nhấn mạnh những hành vi này xâm phạm nhân phẩm, quyền riêng tư và sự an toàn của phụ nữ và trẻ em, đồng thời góp phần bình thường hóa quấy rối và bóc lột tình dục trong không gian số.

Bộ Công nghệ Thông tin Ấn Độ khẳng định việc tuân thủ luật pháp mang tính bắt buộc và các miễn trừ trách nhiệm theo Điều 79 của Luật Công nghệ Thông tin chỉ được áp dụng nếu nền tảng tuân thủ nghiêm ngặt nghĩa vụ thẩm tra và kiểm soát nội dung. Cơ quan quản lý cảnh báo rằng bất kỳ sự thiếu sót nào trong nghĩa vụ này đều có thể dẫn tới việc mất quyền miễn trừ trách nhiệm, cũng như các biện pháp xử lý theo Luật Công nghệ Thông tin và Bộ luật Hình sự Bharatiya Nyaya Sanhita.

Báo cáo ATR mà X phải nộp được yêu cầu bao gồm các biện pháp kỹ thuật và tổ chức đã triển khai hoặc dự kiến áp dụng đối với Grok, vai trò giám sát của Giám đốc Tuân thủ, các hành động cụ thể đối với nội dung và tài khoản vi phạm, cũng như cơ chế đảm bảo nghĩa vụ báo cáo theo quy định pháp luật Ấn Độ.

Không chỉ tại Ấn Độ, Grok và X cũng đang đối mặt với áp lực từ các cơ quan quản lý ở những thị trường khác. Ofcom, cơ quan quản lý truyền thông của Anh, cho biết đang xem xét các lo ngại nghiêm trọng liên quan đến một tính năng của Grok có khả năng tạo ra các hình ảnh đồi trụy. Cơ quan này đã liên hệ khẩn cấp với X và công ty xAI để đánh giá mức độ tuân thủ nghĩa vụ pháp lý bảo vệ người dùng.

Trong khi đó, các nhà chức trách tại Malaysia cũng đã bày tỏ quan ngại về những rủi ro tương tự. Diễn biến này cho thấy các nền tảng tích hợp trí tuệ nhân tạo đang đối mặt với sự giám sát ngày càng chặt chẽ từ các chính phủ, trong bối cảnh lo ngại gia tăng về việc AI bị lạm dụng để tạo và phát tán nội dung gây hại.

Hải Trần/Báo Tin tức và Dân tộc