Trung Quốc đề xuất cấm AI làm “bạn đồng hành ảo” với người dưới 18 tuổi

Các quy định mới sẽ cấm các nền tảng trực tuyến cung cấp dịch vụ "người thân hoặc bạn đồng hành ảo". Ảnh: DPA.

Cơ quan quản lý không gian mạng hàng đầu Trung Quốc đang đề xuất các quy định mới nhằm siết chặt cách mạng xã hội và các nhà phát triển game bảo vệ người chưa thành niên, trong đó có việc cấm cung cấp “dịch vụ thân mật ảo” cho người dưới 18 tuổi trong bối cảnh các trợ lý AI có khả năng tương tác như con người ngày càng phổ biến.

Bộ quy định có tên “Bảo đảm việc sử dụng Internet an toàn và lành mạnh cho người chưa thành niên” đề xuất cấm các nền tảng trực tuyến cung cấp “người thân hoặc bạn đồng hành ảo”, đồng thời cấm những dịch vụ có thể “kích thích người chưa thành niên nghiện” hoặc gây tổn hại, hay có nguy cơ ảnh hưởng nghiêm trọng đến sức khỏe thể chất và tinh thần của họ.

Theo dự thảo được Cục Quản lý Không gian mạng Trung Quốc (CAC) công bố hôm thứ Sáu tuần trước, các dịch vụ mạng xã hội kết nối người lạ cũng sẽ bị cấm đối với người chưa thành niên, ngoại trừ những người trên 16 tuổi và tự trang trải cuộc sống bằng thu nhập từ lao động của mình.

Dự thảo yêu cầu các nền tảng phải kích hoạt chế độ dành cho người chưa thành niên khi vận hành game trực tuyến, mạng xã hội và cung cấp các dịch vụ AI có khả năng “ảnh hưởng đến nhận thức” của người dùng dưới 16 tuổi.

Các nhà vận hành nền tảng cũng phải xác định chính xác hơn người dùng chưa đủ tuổi và cấm sử dụng những thuật toán có thể “kích thích sự lệ thuộc về cảm xúc, gây nghiện hoặc thúc đẩy chi tiêu quá mức”.

Những nền tảng vi phạm có thể bị phạt tới 10 lần khoản thu nhập tạo ra từ hành vi vi phạm nếu số tiền này vượt 1 triệu nhân dân tệ (149.000 USD). Hình thức xử phạt cũng có thể bao gồm tịch thu toàn bộ khoản thu nhập nói trên.

Dự thảo hiện được đưa ra lấy ý kiến công chúng đến ngày 17/10, đánh dấu động thái mới nhất của Trung Quốc nhằm kiểm soát thời gian sử dụng thiết bị và các dịch vụ trực tuyến của thanh thiếu niên.

Theo số liệu của Trung tâm Thông tin mạng Internet Trung Quốc, đến cuối năm 2025, nhóm người từ 6 đến 19 tuổi chiếm 18% tổng số người dùng Internet tại nước này, tương đương 112,5 triệu người.

Trung Quốc siết kiểm soát

He Qianggao, luật sư kiêm giám đốc Geason Law Offices, cho rằng vấn đề then chốt để xác định một dịch vụ có tạo ra “mối quan hệ thân mật ảo” hay không nằm ở việc dịch vụ đó có được thiết kế để mô phỏng hoặc thay thế quan hệ gia đình, tình cảm ngoài đời thực hay không.

Theo ông, việc xây dựng các nhân vật với tính cách cụ thể, kết hợp hướng dẫn cảm xúc nhằm hình thành mối liên kết lâu dài với người dùng có thể là yếu tố khiến một dịch vụ lọt vào phạm vi điều chỉnh.

Các cuộc trò chuyện AI thông thường hoặc những hình thức nhập vai mang tính chức năng nhìn chung sẽ không nằm trong phạm vi này. Tuy nhiên, những dịch vụ trên thực tế khuyến khích người dùng phụ thuộc về mặt cảm xúc hoặc thay thế các mối quan hệ ngoài đời vẫn có thể bị cơ quan quản lý xem xét, ngay cả khi chúng không được quảng bá dưới danh nghĩa “trợ lý AI” hay “bạn đồng hành AI”.

Ông He cho rằng thách thức lớn hơn đối với các công ty AI không chỉ nằm ở việc xác minh tuổi người dùng, mà còn ở việc xác định những dịch vụ nào người dùng được phép tiếp cận sau khi xác định họ là người chưa thành niên.

Điều này có thể khiến chi phí của các nền tảng tăng lên trên nhiều mặt, từ thiết kế sản phẩm, xây dựng hạ tầng kỹ thuật cho tới quy trình kiểm tra và tuân thủ quy định.

Các đề xuất mới được đưa ra chỉ hai tháng sau khi Trung Quốc ban hành bộ quy định chuyên biệt đầu tiên về tương tác với AI có hình thức giao tiếp giống con người. Những quy định này có hiệu lực từ tháng 7, tập trung vào các hệ thống AI có xu hướng chiều theo người dùng quá mức hoặc khuyến khích sự phụ thuộc về cảm xúc theo cách có thể làm tổn hại các mối quan hệ ngoài đời thực.

Để đáp ứng yêu cầu mới, Doubao của ByteDance và Qwen của Alibaba Group Holding đã vô hiệu hóa các tính năng tạo tác nhân AI tùy chỉnh. Những tính năng này trước đó cho phép người dùng tạo ra các nhân vật có tên, tính cách và phong cách nói chuyện cố định.