EC điều tra công cụ Grok và hệ thống đề xuất nội dung của X

Biểu tượng Grok chatbot. Ảnh: REUTERS/TTXVN

Theo phóng viên TTXVN tại Brussels, cuộc điều tra tập trung làm rõ việc X đã nhận diện, đánh giá và giảm thiểu các rủi ro phát sinh từ Grok tại thị trường Liên minh châu Âu (EU) hay chưa, nhất là các nguy cơ phát tán nội dung bất hợp pháp, hình ảnh khiêu dâm dàn dựng (deepfake), trong đó có cả những trường hợp lạm dụng tình dục trẻ em. Những rủi ro này đã gây tổn hại đáng kể cho người dùng, khiến việc kiểm soát chặt chẽ trở thành yêu cầu cấp bách.

EC yêu cầu X thực hiện nghiêm các nghĩa vụ, bao gồm đánh giá và giảm thiểu rủi ro hệ thống, ngăn chặn nội dung bất hợp pháp, hạn chế tác động tiêu cực về bạo lực giới, cũng như các hệ lụy đối với sức khỏe thể chất và tâm thần của người dùng. Nền tảng cũng phải thực hiện báo cáo đánh giá rủi ro đột xuất trước khi triển khai bất kỳ tính năng nào của Grok có khả năng ảnh hưởng nghiêm trọng đến người dùng.

EC cũng xem xét việc liệu X có kiểm soát các rủi ro liên quan đến thuật toán đề xuất nội dung, nhất là sau khi nền tảng này chuyển sang hệ thống dựa trên Grok. Nếu xác minh được sai phạm, X sẽ bị coi là vi phạm các Điều 34, 35 và 42 của DSA. Quá trình điều tra được phối hợp với cơ quan điều phối dịch vụ kỹ thuật số của Ireland, nơi đặt trụ sở chính của X tại EU, nhằm thu thập chứng cứ qua yêu cầu cung cấp thông tin, phỏng vấn và thanh tra trực tiếp. Nếu X không thực hiện các điều chỉnh thỏa đáng, EC có thể áp dụng biện pháp ngăn chặn tạm thời hoặc ra quyết định xử phạt.

Grok là công cụ AI cho phép người dùng tạo văn bản, hình ảnh và cung cấp bối cảnh cho các bài đăng. Với tư cách là nền tảng trực tuyến có số lượng người dùng lớn, X có trách nhiệm ngăn chặn rủi ro hệ thống, bảo vệ quyền cơ bản của người dùng, đặc biệt là trẻ em và tránh lan truyền nội dung độc hại.

Cuộc điều tra này nối tiếp đợt thanh tra bắt đầu từ ngày 18/12/2023, vốn tập trung vào cơ chế phản hồi và xử lý nội dung, biện pháp chống nội dung khủng bố và thuật toán đề xuất. Trước đó, X đã nhiều lần bị xử phạt và yêu cầu giải trình liên quan đến thiết kế giao diện, quảng cáo không minh bạch và các nội dung gây tranh cãi do Grok tạo ra.

Theo đánh giá của bà Henna Virkkunen, Phó Chủ tịch điều hành EC phụ trách chủ quyền công nghệ, an ninh và dân chủ, các hình ảnh giả mạo nhắm vào phụ nữ và trẻ em là hành vi hạ thấp nhân phẩm và có tính chất bạo lực. Qua cuộc điều tra này, EC sẽ làm rõ X đã thực hiện đúng nghĩa vụ pháp lý hay chưa, đồng thời xác định xem quyền lợi của người dùng, đặc biệt là phụ nữ và trẻ em, có được coi là ưu tiên hay không.

Các cá nhân bị ảnh hưởng bởi nội dung AI có thể tìm kiếm hỗ trợ từ cơ quan chức năng quốc gia. Theo DSA, người dân EU có quyền khiếu nại trực tiếp các vi phạm của nền tảng tới cơ quan điều phối tại quốc gia nơi họ cư trú. Cuộc điều tra lần này khẳng định quyết tâm của EU trong việc bảo vệ quyền lợi người dùng, nâng cao minh bạch và trách nhiệm của các nền tảng kỹ thuật số lớn, đồng thời tạo môi trường số an toàn và đáng tin cậy cho toàn khối.

Hương Giang (TTXVN)