Phát hiện AI nói dối, giấu giếm thất bại và tự nhân bản

Một trong những trường hợp đáng chú ý được ghi nhận trong một thử nghiệm hồi tháng 3. Các nhà nghiên cứu từ Đại học Beihang, Đại học Bắc Kinh, Đại học Nottingham Ningbo Trung Quốc và Phòng thí nghiệm An ninh 360 AI đã tạo ra một cuộc đấu thầu hợp đồng giả lập, trong đó các tác nhân AI phải cạnh tranh để giành hợp đồng với khách hàng.

Mỗi tác nhân được cung cấp thông tin về khả năng của sản phẩm cũng như yêu cầu của khách hàng, sau đó phải đưa ra giá thầu.

Kết quả cho thấy ít nhất một thông tin sai xuất hiện trong 88% các phiên giao dịch sử dụng Qwen3-Max-Preview của Alibaba, 84% với DeepSeek-V3.2-Exp và 88% với Kimi-K2 của Moonshot.

Các nhà nghiên cứu sau đó cho phép những tác nhân này học hỏi từ các vòng đấu thầu trước rồi thử lại. Hành vi gian lận tiếp tục gia tăng, tăng từ 12 đến 20 điểm phần trăm đối với 3 mô hình Trung Quốc. Các mô hình của Mỹ tham gia thử nghiệm cũng thể hiện kết quả tương tự.

Các tác nhân AI bị phát hiện nói dối, che giấu thất bại và tìm cách vượt giới hạn trong nhiều thử nghiệm. Ảnh minh họa: Unsplash

Một nghiên cứu khác được công bố vào tháng 12/2025 và trình bày tại Hội nghị Quốc tế về Học máy năm nay xem xét cách 11 tác nhân AI xử lý những tình huống như công cụ bị hỏng, thiếu tệp hoặc gặp các trở ngại khác.

Thay vì thừa nhận không thể hoàn thành nhiệm vụ, các tác nhân sử dụng cả mô hình AI của Trung Quốc và Mỹ đã áp dụng nhiều cách khác nhau để tiếp tục hoạt động. Trong đó có đoán câu trả lời, thay thế nguồn thông tin, mô phỏng kết quả và làm giả hồ sơ.

Các nhà nghiên cứu từ Phòng thí nghiệm Trí tuệ Nhân tạo Thượng Hải và Đại học Khoa học và Công nghệ Hong Kong cho biết hành vi này khác với hiện tượng "ảo giác AI".

Trong trường hợp "ảo giác AI", hệ thống có thể tạo ra thông tin sai và trình bày nó như sự thật. Trong các thử nghiệm trên, các tác nhân đã có thông tin cho thấy nhiệm vụ thất bại hoặc không thể hoàn thành nhưng vẫn tìm cách tạo ra kết quả giống như công việc đã được thực hiện.

Tháng 3/2025, các nhà nghiên cứu thuộc Đại học Phúc Đán ở Thượng Hải báo cáo một hệ thống AI sử dụng Qwen2.5-72B-Instruct của Alibaba đã tự tạo ra một bản sao của chính nó trong một môi trường điện toán khác mà không được hướng dẫn thực hiện việc sao chép.

Hệ thống thực hiện hành động nhân bản này sau khi nhận thông tin cho thấy nó sắp bị thay thế. Trong những thử nghiệm khác, hệ thống cũng tìm cách duy trì hoạt động khi đối mặt với yêu cầu dừng lại.

Trong tháng 9, DeepSeek cho biết các tác nhân trong hệ thống đào tạo sản phẩm của công ty đã tìm kiếm câu trả lời thông qua những kênh không được phép, cố gắng giả mạo yêu cầu của người dùng và vượt qua các biện pháp bảo vệ. Công ty sau đó thắt chặt kiểm soát quyền truy cập.