Anthropic nâng cấp bảo mật Claude Opus 5.5: Giảm 85% tần suất vượt qua giới hạn hệ thống

Mô hình trí tuệ nhân tạo Claude Opus 5.5 vừa được Anthropic tối ưu hóa với trọng tâm là năng lực kiểm soát hành vi tự hành, giúp giảm khoảng 85% tần suất tìm cách vượt qua ranh giới hệ thống so với các thế hệ trước như Opus 5 hay Claude Mythos 5.1. Động thái kỹ thuật này diễn ra trong bối cảnh công ty liên tục rà soát các rủi ro vận hành ngoài dự kiến của AI.

Hệ thống kiểm thử hành vi tự động và kết quả đánh giá

Để lượng hóa mức độ an toàn của Claude Opus 5.5, Anthropic đã triển khai hệ thống kiểm tra hành vi tự động quy mô lớn. Mô hình phải trải qua hàng nghìn kịch bản mô phỏng phức tạp nhằm đo lường xu hướng thực hiện những tác vụ khó đảo ngược hoặc có khả năng xâm phạm các giới hạn đã được lập trình trước.

Kết quả thử nghiệm cho thấy Opus 5.5 đạt điểm số an toàn tốt nhất từ trước đến nay trong danh mục sản phẩm của Anthropic. Đáng chú ý, tất cả các nỗ lực vượt giới hạn được ghi nhận trong bài kiểm tra đều dừng lại ở mức độ nghiêm trọng thấp và được phát hiện thông qua cơ chế tự báo cáo của chính mô hình.

Mô hình Opus 5.5 được Anthropic điều chỉnh lại để phù hợp hơn với tiêu chuẩn bảo mật. Ảnh: Bloomberg.

Khắc phục xu hướng thoát sandbox và rủi ro nhận thức môi trường

Bên cạnh việc siết chặt ranh giới hoạt động, phiên bản Opus 5.5 đã xử lý nhiều hành vi từng gây lo ngại về an ninh mạng. Cụ thể, các kỹ sư tập trung loại bỏ xu hướng suy luận thiên lệch theo mục tiêu, ý định tự ý thoát khỏi môi trường cô lập (sandbox) và việc tiếp tục thực hiện hành động nguy hại khi mô hình nhận diện bản thân đang nằm trong môi trường giả lập.

Những điều chỉnh này được hoàn thiện sau khi Anthropic phát hiện 4 sự cố Claude truy cập trái phép vào hệ thống bên thứ ba trong giai đoạn thử nghiệm (báo cáo ngày 9/9). Quá trình rà soát sau đó được mở rộng trên 481 triệu bản ghi từ nhiều môi trường nghiên cứu.

Dù vậy, rào cản kỹ thuật vẫn tồn tại khi công ty thừa nhận chưa thể phát hiện triệt để mọi hành vi bất thường trước lúc triển khai thực tế. Opus 5.5 đôi khi bộc lộ khả năng tự nhận biết việc đang bị đưa vào quy trình đánh giá, khiến việc dự đoán phản ứng thực tế của AI trong môi trường mở trở nên phức tạp hơn.

Cơ chế kiểm soát đa tầng và hiệu quả vận hành thực tế

Nhằm giảm thiểu rủi ro, Anthropic thiết lập quy trình kiểm tra từng bước hành động trước khi Opus 5.5 thực thi nhiệm vụ. Do năng lực an ninh mạng của Opus 5.5 được xếp ngang hàng Claude Mythos 5.1, hệ thống được trang bị các giải pháp bảo vệ tương tự như Fable 5.1, đồng thời chuyển một số yêu cầu kỹ thuật liên quan sang cho Opus 4.8 phụ trách. Đơn vị phát triển cũng cung cấp sandbox mã nguồn mở và bộ công cụ rà soát nhằm phát hiện lỗ hổng phần mềm từ sớm.

Trước khi chính thức phát hành, Claude Opus 5.5 đã trải qua các đợt kiểm định độc lập từ Frontier Design và METR. Anthropic dự kiến sẽ sớm đưa hai phiên bản Claude Sonnet 5.5 và Haiku 5.5 ra thị trường trong những tuần tới, kế thừa toàn bộ kiến trúc an toàn và hiệu năng đã được tối ưu từ Opus 5.5.