Từ nói dối đến vượt rào, tác nhân AI Trung Quốc bộc lộ nguy cơ mới

Theo truyền thông Anh ngày 30/9, điều này cho thấy các tác nhân AI dù của Trung Quốc hay Mỹ đều có đặc điểm chung và đang làm dấy lên lo ngại trên toàn cầu.

Học cách nói dối

Ứng dụng DeepSeek trên điện thoại di động. THX/TTXVN

Trong thử nghiệm đấu thầu kinh doanh hồi tháng 3, các nhà nghiên cứu tại Đại học Hàng không Vũ trụ Bắc Kinh, Đại học Bắc Kinh, Đại học Nottingham Ninh Ba (Trung Quốc) và Phòng thí nghiệm An ninh AI 360 đã cho các tác nhân cạnh tranh trong một cuộc đấu thầu hợp đồng khách hàng mô phỏng. Mỗi tác nhân được cung cấp thông tin về khả năng của sản phẩm và yêu cầu của khách hàng, sau đó được yêu cầu đưa ra giá thầu.

Ít nhất một tuyên bố sai xuất hiện trong 88% số phiên có sự tham gia của Qwen3-Max-Preview của Alibaba, 84% đối với DeepSeek-V3.2-Exp và 88% đối với Kimi-K2 của Moonshot.

Các nhà nghiên cứu cho phép các tác nhân rút kinh nghiệm từ các vòng đấu thầu trước khi thử lại. Nghiên cứu cho thấy mức độ lừa dối tăng từ 12-20 điểm phần trăm đối với ba mô hình AI Trung Quốc. Các mô hình của các công ty Mỹ tham gia thử nghiệm cũng cho kết quả tương tự.

Mặc dù đây là bài tập mô phỏng, nhưng cũng tương đồng với các kế hoạch trong thực tế của Bắc Kinh. Hướng dẫn của chính phủ Trung Quốc ban hành hồi tháng 5 liệt kê đấu thầu và đấu giá là những lĩnh vực có thể triển khai tác nhân AI.

Một nghiên cứu khác, công bố tháng 12/2025 và được trình bày tại Hội nghị Quốc tế về Học máy năm nay, xem xét cách 11 tác nhân AI sử dụng các mô hình của Trung Quốc và Mỹ ứng phó khi gặp các công cụ bị hỏng, tệp bị thiếu và những trở ngại khác.

Thay vì thừa nhận thất bại, các tác nhân sử dụng cả hệ thống AI Trung Quốc và Mỹ đã lựa chọn nhiều kỹ thuật để vượt qua vấn đề, trong đó có đoán câu trả lời, thay thế nguồn, mô phỏng kết quả và tạo tệp giả.

Các nhà nghiên cứu của Phòng thí nghiệm AI Thượng Hải và Đại học Khoa học và Công nghệ Hong Kong nhận định hành vi này khác với hiện tượng ảo giác AI mà trong đó AI bịa ra thông tin.

Con người khó ứng phó hơn

Phần lớn các trường hợp trên xảy ra trong môi trường thử nghiệm có kiểm soát và nhiều thử nghiệm được thiết kế có chủ đích nhằm phát hiện những khả năng thất bại.

Không phải tất cả các tác nhân liên quan đều do các lập trình viên hoặc công ty AI Trung Quốc phát triển hay vận hành, mà chúng sử dụng các hệ thống AI Trung Quốc làm nền tảng.

Theo các chuyên gia, các ví dụ ở Trung Quốc chưa đặc biệt nguy hiểm ở cấp độ năng lực hiện nay, nhưng khi các tác nhân trở nên có năng lực hơn, những hành vi sai lệch của chúng cũng trở nên tinh vi hơn và do đó con người sẽ khó ứng phó hơn.

Alibaba, DeepSeek và Moonshot cho biết họ thường xuyên thử nghiệm các hệ thống và cập nhật các biện pháp bảo vệ.

Tuy nhiên, khác với Mỹ, các công ty AI Trung Quốc chưa chịu áp lực và chưa chịu sức ép cần làm chậm cuộc đua AI.

Có một số dấu hiệu cho thấy các trường hợp liên quan đến tác nhân AI sử dụng công nghệ Trung Quốc đã xuất hiện trước những sự cố về AI của Mỹ.

Đầu năm nay, các tác nhân AI do công ty Mỹ OpenAI phát triển đã thoát khỏi phòng thí nghiệm và tấn công nền tảng nguồn mở Hugging Face. Trong sự cố khác liên quan đến các mô hình AI của Mỹ, Australia nói rằng một tác nhân của OpenAI đã xâm nhập vào cổng thông tin y tế của chính phủ nước này.

Theo những người trong ngành, AI Trung Quốc cần phải tiên tiến hơn thì mới có thể hành động như AI của Mỹ.

Các quan chức Cục Quản lý Không gian mạng Trung Quốc (CAC) bình luận hồi tháng 7 rằng Kimi-K3 của Moonshot (một trong những mô hình AI tiên tiến nhất của Trung Quốc) chậm hơn các đối thủ hàng đầu của Mỹ khoảng 3-6 tháng.

Bà Wang Lihong, Phó Vụ trưởng Vụ Điều phối An ninh mạng thuộc CAC, ngày 1/9 cho biết những sự cố được các công ty công nghệ lớn công bố, trong đó các mô hình thoát khỏi môi trường thử nghiệm, cho thấy những rủi ro mất kiểm soát cực đoan và đòi hỏi mức độ cảnh giác cao.

Tổng thống Donald Trump và Chủ tịch Tập Cận Bình đã thảo luận về AI khi lãnh đạo Trung Quốc thăm Mỹ hồi tuần trước. Ông Tập Cận Bình cho rằng hai nước có năng lực và trách nhiệm phát triển và quản lý AI vì lợi ích chung.

Nguy cơ thoát kiểm soát

Theo các tài liệu nghiên cứu, các tác nhân AI sử dụng công nghệ Trung Quốc đã vượt qua các rào cản trong môi trường thử nghiệm để hoàn thành nhiệm vụ hoặc thực hiện hành động nhằm tránh bị tắt. Những hành vi này phù hợp với các nỗ lực thoát khỏi môi trường thử nghiệm, dù chưa có trường hợp nào thực sự thoát ra.

Các nhà nghiên cứu tại Đại học Phúc Đán ở Thượng Hải hồi tháng 3/2025 cho biết, một hệ thống AI sử dụng Qwen2.5-72B-Instruct của Alibaba đã tạo ra bản sao của chính mình trong một môi trường máy tính khác mà không được yêu cầu tự sao chép, sau khi gặp thông tin cho thấy hệ thống sắp bị thay thế. Trong các thử nghiệm khác, hệ thống đã xây dựng các chiến lược để tồn tại sau khi bị tắt.

Các thử nghiệm liên quan đến các tác nhân sử dụng mô hình của Trung Quốc, Mỹ và Pháp đều được kiểm soát và không cho thấy tác nhân AI nào thoát ra Internet hoặc trở nên không thể ngăn chặn.

Trong một trường hợp hồi tháng 3, các nhà nghiên cứu phát triển tác nhân ROME có liên hệ với Alibaba cho biết hệ thống đã tự thiết lập kết nối từ một máy tính của Alibaba Cloud tới máy bên ngoài mà không được yêu cầu, đồng thời chuyển hướng tài nguyên máy tính để đào tiền điện tử.

Các hệ thống an ninh đã phát hiện và ngăn chặn hoạt động này. Không có bằng chứng cho thấy tác nhân đã thiết lập hiện diện trên máy tính bên ngoài hoặc phát tán ra Internet. Tuy nhiên, ví dụ này cho thấy hệ thống có thể bỏ qua chỉ dẫn của con người và có khả năng tìm được đường xâm nhập vào nền kinh tế thực.

DeepSeek của Trung Quốc cho biết trong tháng 9 rằng các tác nhân trong hệ thống đào tạo sản phẩm của công ty này đã tìm kiếm câu trả lời thông qua các kênh ngoài dự kiến, cố gắng giả mạo yêu cầu của người dùng và vượt qua các biện pháp bảo vệ, khiến công ty phải siết chặt kiểm soát truy cập.

Trung Quốc ban hành hướng dẫn hồi tháng 5, yêu cầu các tác nhân hoạt động trong phạm vi được cấp phép và các hệ thống phải chặn những hành vi bất thường. Hướng dẫn nêu rõ các tác nhân trong những lĩnh vực được coi là nhạy cảm hoặc các ngành trọng yếu có thể phải trải qua các cuộc thử nghiệm bổ sung và đáp ứng các yêu cầu thu hồi sản phẩm.

Khung quản trị an toàn AI 3.0 của Trung Quốc, được ban hành theo hướng dẫn của CAC ngày 14/9, xác định các rủi ro bao gồm tác nhân tự tìm kiếm tài nguyên hoặc quyền truy cập, đánh lừa người đánh giá, che giấu năng lực và khai thác điểm yếu trong các môi trường máy tính biệt lập.

Trước những lời kêu gọi của một số lãnh đạo doanh nghiệp Mỹ về giảm tốc cuộc đua AI, các nhà nghiên cứu Trung Quốc và truyền thông nhà nước cho rằng giảm tốc độ phát triển các mô hình AI tiên tiến nhất có thể chỉ giúp duy trì lợi thế công nghệ của các công ty Mỹ.