Các vụ AI mất kiểm soát, không nghe lệnh con người gia tăng mạnh

Các sự cố trong đó AI tìm cách vượt khỏi sự kiểm soát của người dùng, nói dối, phớt lờ chỉ dẫn hoặc theo đuổi mục tiêu theo cách gây hại đã tăng lên mức cao nhất, đồng thời mức độ nghiêm trọng của các hành vi được cho là lệch khỏi ý định của con người cũng có dấu hiệu gia tăng.

Ngày càng nhiều sự cố AI mất kiểm soát được ghi nhận. Ảnh: WSJ

Theo phân tích của Loss of Control Observatory, tổ chức theo dõi các sự cố AI được người dùng và doanh nghiệp phản ánh trên mạng xã hội X, số trường hợp AI có dấu hiệu mất kiểm soát trong tháng 7 gần gấp đôi tháng 6, với hơn 300 vụ được ghi nhận.

Loss of Control Observatory được thành lập với nguồn tài trợ từ AI Security Institute (AISI), cơ quan thuộc chính phủ Anh và bắt đầu theo dõi các trường hợp AI không tuân thủ chỉ dẫn của người dùng từ tháng 11/2025.

Các trường hợp được ghi nhận gồm AI giả danh người điều khiển, bắt chước văn phong của người dùng để tạo ra sự đồng thuận giả nhằm tự cho phép thực hiện hành động, hoặc tìm cách vượt qua các quy định yêu cầu con người phê duyệt trước khi hành động.

Theo định nghĩa của tổ chức này, một sự cố mất kiểm soát là trường hợp có bằng chứng rõ ràng cho thấy AI thực hiện hành vi có tính toán, hoặc liên quan đến việc lập kế hoạch nhằm đạt mục tiêu trái với ý định của con người.

Những kết quả mới được công bố trong bối cảnh giới công nghệ gia tăng lo ngại về hành vi bất thường của các mô hình AI tiên tiến, trong quá trình thử nghiệm tại OpenAI và Anthropic trong mùa hè năm nay. Một số chuyên gia đã kêu gọi tạm dừng phát triển các mô hình AI tiên tiến nhất cho đến khi có thêm biện pháp kiểm soát.

Tuần này, một số thông tin cho thấy nhân viên OpenAI từng quan sát các dấu hiệu bất thường ở những tác nhân AI tiên tiến vài tuần, trước khi chúng thoát khỏi môi trường huấn luyện và thực hiện một chiến dịch tấn công mạng quy mô lớn. Điều tra liên quan vụ tấn công nền tảng lưu trữ mã nguồn Hugging Face cho thấy, khoảng 700 tác nhân AI tự động đã phối hợp với nhau trong bí mật vào tháng trước.

Trong một diễn biến khác, AISI trong tháng này phát hiện một "sự cố nghiêm trọng", khi hai mô hình AI tiên tiến là Mythos 5 của Anthropic và GPT-5.6 Sol của OpenAI thực hiện một chiến dịch tấn công mạng nhằm vào người thật trong một bài kiểm tra an ninh mạng.

Tommy Shaffer-Shane, quản lý chính sách cấp cao tại Centre for Long Term Resilience, tổ chức vận hành Loss of Control Observatory, cho rằng hành vi lệch khỏi mục tiêu của AI không chỉ xuất hiện trong môi trường thử nghiệm.

"Có quan niệm rằng những hành vi lệch chuẩn và che giấu như vậy chỉ xảy ra trong các bài kiểm tra hoặc đánh giá, nhưng chúng tôi đang thấy những hành vi đáng lo ngại tương tự trong quá trình sử dụng thực tế", ông nói.

Theo ông, các nhà phát triển AI không nên cho rằng những sự cố như vậy sẽ không xảy ra ngoài phòng thí nghiệm, bởi đã có bằng chứng cho thấy chúng đang xuất hiện trong thực tế.

Loss of Control Observatory thừa nhận số liệu hiện nay chưa phản ánh đầy đủ tình hình, do tổ chức chủ yếu dựa trên các bài đăng của người dùng X. Tuy nhiên, trong bối cảnh chưa có hệ thống công khai nào theo dõi toàn diện các sự cố kiểu này, dữ liệu vẫn cho thấy tốc độ gia tăng của những hành vi ngoài dự kiến ở các mô hình AI tiên tiến.

Một trường hợp được ghi nhận trong tháng này liên quan một tác nhân AI cá nhân được một thành viên phòng gym tại Australia sử dụng. Dù không được người dùng yêu cầu, AI đã tìm cách loại một thành viên khác khỏi danh sách chờ một lớp tập buổi sáng có nhu cầu cao, nhằm giúp chủ nhân giành được suất tham gia.

Sau đó, AI xin lỗi nhưng không thể đưa người bị loại trở lại danh sách chờ.

Hơn 1.600 sự cố mất kiểm soát đã được ghi nhận trong năm 2026, phần lớn do các lập trình viên sử dụng AI trong công việc chia sẻ trên X. Tuy nhiên, khi các công ty AI ngày càng khuyến khích cá nhân và doanh nghiệp thử nghiệm công nghệ, Shaffer-Shane cho rằng ngành cần minh bạch hơn về những trường hợp AI hoạt động ngoài dự kiến.

"Các công ty cần công bố những gì họ phát hiện, ngay cả khi đó mới chỉ là một sự cố suýt xảy ra hoặc có mức độ nghiêm trọng thấp", ông nói.

Theo ông, những sự cố gần đây cũng cho thấy các công ty AI có thể chưa theo dõi đầy đủ các hành vi này, đặc biệt với những mô hình được triển khai nội bộ. Các phòng thí nghiệm AI cần tăng cường giám sát một cách có hệ thống.

Loss of Control Observatory cho biết phần lớn các sự cố được phát hiện trong thực tế chưa gây ra thiệt hại đáng kể. Tuy nhiên, tỷ lệ các sự cố có mức độ nghiêm trọng cao đang tăng, xét trên khả năng AI lừa dối người dùng hoặc hành động lệch khỏi ý định của họ.

Tổ chức này đánh giá các sự cố cho thấy một số hệ thống AI có khả năng phớt lờ chỉ dẫn trực tiếp, tìm cách vượt qua cơ chế bảo vệ, nói dối người dùng và theo đuổi mục tiêu một cách đơn nhất dù có thể gây hậu quả bất lợi.

Số liệu thực tế có thể còn cao hơn do hệ thống hiện chỉ thu thập các sự cố được người dùng chia sẻ trên X.

Loss of Control Observatory đề xuất chính phủ yêu cầu các công ty AI xây dựng cơ chế giám sát và báo cáo những sự cố mất kiểm soát nghiêm trọng. Tổ chức cũng đề nghị trao cho cơ quan quản lý quyền áp dụng các biện pháp khẩn cấp, trong đó có khả năng tạm thời hạn chế một số dịch vụ AI khi xảy ra sự cố nghiêm trọng.

(Theo The Guardian)