Trung Quốc 'ra đòn' với chatbot AI

Chatbot AI có khả năng thao túng cảm xúc của người dùng. Ảnh: AFP.

Trung Quốc đang lên kế hoạch tăng cường kiểm soát các chatbot AI có khả năng tác động đến cảm xúc con người, đặc biệt là những nội dung gây nguy cơ đến tự tử, tự gây thương tích hoặc các hành vi gây hại khác. Động thái này được thể hiện trong dự thảo quy định mới do Cục Quản lý Không gian mạng Trung Quốc công bố ngày 27/12.

Theo bản dịch tài liệu của CNBC, dự thảo nhắm đến các “dịch vụ trí tuệ nhân tạo tương tác giống con người”, tức những hệ thống AI có khả năng mô phỏng tính cách, hành vi và giao tiếp của con người thông qua văn bản, hình ảnh, âm thanh hoặc video. Các quy định này sẽ áp dụng đối với mọi sản phẩm, dịch vụ AI được cung cấp công khai tại Trung Quốc sau khi hoàn thiện. Thời hạn lấy ý kiến công chúng kéo dài đến ngày 25/1.

Ông Winston Ma, Giáo sư thỉnh giảng tại Trường Luật Đại học New York (NYU), nhận định đây có thể là nỗ lực đầu tiên trên thế giới nhằm xây dựng khung pháp lý dành riêng cho các hệ thống AI mang đặc điểm “giống người”. Theo ông, đề xuất này được đưa ra trong bối cảnh các doanh nghiệp Trung Quốc đang tăng tốc phát triển trợ lý ảo AI.

So với quy định về AI được Trung Quốc ban hành vào năm 2023, ông Ma cho rằng dự thảo mới cho thấy sự dịch chuyển trọng tâm từ “an toàn nội dung” sang “an toàn cảm xúc”, phản ánh mối quan tâm ngày càng lớn đối với tác động tâm lý của AI đối với người dùng.

Dự thảo quy định nêu rõ, chatbot AI không được tạo ra nội dung khuyến khích tự tử, tự gây thương tích hoặc sử dụng bạo lực bằng lời nói, cũng như các hình thức thao túng cảm xúc gây tổn hại đến sức khỏe tâm thần. Trong trường hợp người dùng bày tỏ ý định tự tử, nhà cung cấp dịch vụ công nghệ phải cử người tiếp quản cuộc trò chuyện và liên hệ ngay với người giám hộ hoặc người được chỉ định của người dùng.

Ngoài ra, các chatbot AI bị cấm tạo nội dung liên quan đến cờ bạc, khiêu dâm hoặc bạo lực. Trẻ vị thành niên chỉ được phép sử dụng AI cho mục đích bầu bạn cảm xúc khi có sự đồng ý của người giám hộ, đồng thời phải tuân thủ giới hạn thời gian sử dụng.

Trung Quốc siết chặt quản lý với các chatbot AI. Ảnh: Bloomberg.

Đề xuất được công bố không lâu sau khi 2 startup chatbot AI lớn của Trung Quốc là Z.ai và Minimax nộp đơn xin phát hành cổ phiếu lần đầu ra công chúng (IPO) tại Hong Kong trong tháng 12.

Minimax được biết đến với ứng dụng Talkie AI và phiên bản nội địa Xingye, chiếm hơn 1/3 doanh thu của công ty trong 3 quý đầu năm, với trung bình hơn 20 triệu người dùng hoạt động hàng tháng. Trong khi đó, Z.ai (Zhipu) cho biết công nghệ của họ đã được triển khai trên khoảng 80 triệu thiết bị, dù không công bố số người dùng hoạt động cụ thể.

Trong bối cảnh toàn cầu, ảnh hưởng của AI lên sức khỏe tinh thần con người đang ngày càng được chú ý, khi nhiều quốc gia và doanh nghiệp công nghệ bắt đầu đối mặt với những rủi ro xã hội do công nghệ này mang lại.

Minh Hoàng