Vương quốc Anh tiếp tục điều tra mạng xã hội X về nội dung độc hại

Trong báo cáo công bố hôm 14/10, Ofcom cho biết X, nền tảng thuộc sở hữu của tỷ phú Elon Musk, đã đáp ứng các cam kết về thời hạn xem xét nội dung bị nghi ngờ là bất hợp pháp, mang tính thù hận hoặc liên quan đến khủng bố. Thời gian phản hồi của công ty cũng được cải thiện so với những bằng chứng mà cơ quan quản lý xem xét hồi đầu năm nay.

Dù vậy, Ofcom vẫn bày tỏ lo ngại về hiệu quả thực tế của các biện pháp X sử dụng để loại bỏ nội dung thù hận và khủng bố bất hợp pháp. Cơ quan này cũng cho biết đã nhận được những thông tin trái chiều về mức độ hợp tác của công ty với các chuyên gia độc lập bên ngoài.

Ofcom đang đánh giá liệu X có thực hiện đầy đủ nghĩa vụ theo luật an toàn trực tuyến của Vương quốc Anh, đặc biệt là trách nhiệm bảo vệ người dùng khỏi nội dung bất hợp pháp, hay không.

Ofcom tiếp tục điều tra X về nội dung bất hợp pháp. Ảnh: Unsplash

Bên cạnh X, Ofcom cũng cập nhật những biện pháp hạn chế mà SpaceXAI, trước đây là xAI, áp dụng đối với chatbot AI Grok.

Các biện pháp mới nhằm ngăn người dùng tại Anh xem, tạo hoặc chia sẻ nội dung khiêu dâm thông qua dịch vụ này. Những chatbot đi kèm, trong đó có nhân vật ảo mang tên Ani, cũng bị cấm tham gia các cuộc trò chuyện có nội dung khiêu dâm.

Ofcom mở cuộc điều tra vào tháng 1 sau khi xuất hiện các báo cáo cho thấy Grok bị sử dụng để tạo và chia sẻ hình ảnh khiêu dâm có khả năng vi phạm pháp luật.

Trong quá trình tìm hiểu, hãng tin Reuters phát hiện Grok vẫn có thể tạo hình ảnh khiêu dâm khi được yêu cầu, ngay cả trong trường hợp người yêu cầu nói rõ rằng những người xuất hiện trong hình ảnh không đồng ý.

Vụ việc làm dấy lên những lo ngại về nguy cơ trí tuệ nhân tạo bị lợi dụng để tạo nội dung tình dục không có sự đồng thuận, cũng như trách nhiệm của các nền tảng công nghệ trong việc ngăn chặn hành vi này.

Ofcom cho biết sẽ tiếp tục xác định liệu X có tuân thủ đầy đủ các nghĩa vụ pháp lý nhằm bảo vệ người dân Anh trước nội dung bất hợp pháp hay không.