Trung Quốc ban hành dự thảo quy định quản lý AI tương tác giống người

Động thái này cho thấy nỗ lực của Bắc Kinh trong việc định hình việc quản lý AI hướng đến người tiêu dùng bằng cách tăng cường các yêu cầu về an toàn và đạo đức. Các quy định được đề xuất sẽ áp dụng cho các sản phẩm và dịch vụ AI được cung cấp cho công chúng ở Trung Quốc, có khả năng mô phỏng các đặc điểm tính cách, lối suy nghĩ và phong cách giao tiếp của con người, và tương tác với người dùng về mặt cảm xúc thông qua văn bản, hình ảnh, âm thanh, video hoặc các phương tiện khác.

Dự thảo yêu cầu các nhà cung cấp phải cảnh báo người dùng về việc sử dụng quá mức và can thiệp khi người dùng có dấu hiệu nghiện. Theo đề xuất, các nhà cung cấp dịch vụ sẽ phải chịu trách nhiệm về an toàn trong suốt vòng đời sản phẩm và thiết lập các hệ thống để xem xét thuật toán, bảo mật dữ liệu và bảo vệ thông tin cá nhân.

Một robot do công ty Trung Quốc chế tạo - Ảnh: Reuters

Dự thảo cũng nhắm đến các rủi ro tâm lý tiềm tàng. Các nhà cung cấp sẽ phải xác định trạng thái của người dùng và đánh giá cảm xúc của người dùng cũng như mức độ phụ thuộc của họ vào dịch vụ. Nếu phát hiện người dùng có những biểu hiện cảm xúc cực đoan hoặc hành vi nghiện ngập, các nhà cung cấp dịch vụ được dự thảo khuyến cáo nên thực hiện các biện pháp can thiệp cần thiết, thông báo cho người dùng biết.

Các biện pháp này đặt ra “giới hạn đỏ” về nội dung và hành vi khi nêu rõ rằng các dịch vụ không được tạo ra nội dung gây nguy hiểm cho an ninh quốc gia, lan truyền tin đồn hoặc cổ vũ bạo lực hay ngôn từ tục tĩu.

Anh Duy