Trung Quốc đề xuất siết quản lý AI mô phỏng con người

Cơ quan quản lý an ninh mạng của Trung Quốc mới đây đã công bố dự thảo quy định để lấy ý kiến công chúng, nhằm tăng cường kiểm soát các dịch vụ trí tuệ nhân tạo có khả năng mô phỏng con người và tạo ra tương tác cảm xúc với người dùng. Đây là bước đi mới nhất cho thấy Bắc Kinh muốn quản lý chặt hơn việc ứng dụng AI đang phát triển rất nhanh trong đời sống hàng ngày.

Theo dự thảo, các quy định sẽ áp dụng với những sản phẩm và dịch vụ AI được cung cấp rộng rãi tại Trung Quốc, có thể bắt chước tính cách, cách suy nghĩ và cách giao tiếp của con người. Những hệ thống này thường tương tác với người dùng thông qua văn bản, hình ảnh, giọng nói hoặc video, tạo cảm giác gần gũi và mang tính cảm xúc cao.

Những chú chó robot và robot hình người do China Mobile phát triển biểu diễn tại gian hàng của công ty ở Hội nghị Trí tuệ Nhân tạo Thế giới 2025, Thượng Hải, ngày 27/7/2025. Ảnh: Xinhua

Cơ quan quản lý yêu cầu các doanh nghiệp cung cấp dịch vụ AI phải bảo đảm an toàn cho sản phẩm trong suốt quá trình vận hành. Trách nhiệm này bao gồm quản lý chặt chẽ thuật toán, bảo vệ dữ liệu và thông tin cá nhân của người dùng.

Một nội dung được nhấn mạnh trong dự thảo là rủi ro tâm lý. Các dịch vụ AI nhân hình sẽ phải theo dõi trạng thái cảm xúc của người dùng, đánh giá mức độ phụ thuộc vào hệ thống. Nếu người dùng có biểu hiện cảm xúc cực đoan hoặc lệ thuộc quá mức, doanh nghiệp cần có biện pháp phù hợp, như khuyến nghị giảm thời gian sử dụng hoặc hỗ trợ kịp thời.

Dự thảo cũng đặt ra các giới hạn rõ ràng về nội dung. Các dịch vụ AI không được tạo ra hoặc lan truyền nội dung gây ảnh hưởng đến an ninh quốc gia, tung tin đồn sai lệch, hay cổ súy bạo lực và khiêu dâm. Đồng thời, người dùng phải luôn được thông báo rõ rằng họ đang tương tác với trí tuệ nhân tạo chứ không phải con người, tránh gây hiểu lầm hoặc phụ thuộc cảm xúc không cần thiết.

Ngoài ra, các quy định đề xuất yêu cầu hệ thống AI nhắc người dùng nghỉ ngơi nếu sử dụng liên tục trong thời gian dài, chẳng hạn sau mỗi hai giờ. Đáng chú ý, các nhà cung cấp phải xây dựng cơ chế phản ứng khẩn cấp. Trong trường hợp người dùng thể hiện ý định tự tử hoặc tự gây tổn hại, cuộc tương tác cần được chuyển sang con người xử lý thay vì để AI tiếp tục phản hồi.

Tùng Lâm (Theo CNN, The New York Times)