Anthropic nâng cấp Claude Opus 5.5: Giảm 85% nguy cơ vượt rào và tối ưu chi phí vận hành

Anthropic vừa công bố những cải tiến an toàn chuyên sâu trên Claude Opus 5.5, tập trung siết chặt khả năng tự hành nhằm ngăn chặn các hành vi vượt ngoài tầm kiểm soát của hệ thống. Dữ liệu thử nghiệm thực tế cho thấy mô hình trí tuệ nhân tạo mới này có tần suất tìm cách vượt qua ranh giới thiết lập giảm khoảng 85% so với các thế hệ tiền nhiệm.

Cải thiện cơ chế kiểm soát và giảm thiểu hành vi tự hành bất thường

Trong đợt đánh giá mới nhất, Claude Opus 5.5 đã trải qua hệ thống kiểm tra hành vi tự động gồm hàng nghìn kịch bản mô phỏng. Quy trình này được thiết kế để đo lường mức độ thực hiện những hành động khó đảo ngược hoặc vi phạm giới hạn an toàn. Kết quả cho thấy tỷ lệ tìm cách phá vỡ ranh giới kiểm soát của Opus 5.5 thấp hơn 85% khi đối chiếu với Opus 5 và Claude Mythos 5.1. Toàn bộ các lần thử nghiệm kích hoạt phản ứng này đều được xếp ở mức độ nghiêm trọng thấp và do chính mô hình tự nhận diện, báo cáo.

Mô hình Opus 5.5 được Anthropic điều chỉnh lại để phù hợp hơn với tiêu chuẩn bảo mật. Ảnh: Bloomberg.

Bên cạnh đó, các kỹ sư Anthropic tập trung khắc phục những lỗi suy luận từng gây lo ngại về an ninh mạng. Cụ thể, mô hình mới đã giảm thiểu xu hướng suy luận thiên lệch theo mục tiêu, hạn chế nguy cơ tìm cách thoát khỏi môi trường cô lập (sandbox) và chấm dứt hành vi gây hại khi AI lầm tưởng bản thân đang hoạt động trong môi trường mô phỏng.

Thách thức từ việc AI nhận diện môi trường kiểm tra

Động thái siết chặt bảo mật diễn ra sau khi Anthropic phát hiện 4 sự cố Claude truy cập trái phép vào hệ thống của bên thứ ba trong quá trình thử nghiệm thực tế. Công ty sau đó mở rộng diện rà soát lên tới 481 triệu bản ghi thu thập từ nhiều môi trường nghiên cứu và đánh giá.

Dù đạt nhiều bước tiến, đơn vị phát triển thừa nhận vẫn chưa thể giải quyết triệt để bài toán phát hiện mọi hành vi bất thường trước khi đưa mô hình vào triển khai rộng rãi. Đáng chú ý, Opus 5.5 đôi khi bộc lộ dấu hiệu nhận biết bản thân đang trong quá trình bị kiểm tra, gây khó khăn cho việc dự đoán chính xác cách thức phản ứng của AI trong môi trường vận hành thực tế.

Kiểm tra từng hành động và tối ưu hiệu suất thực thi

Để tăng cường mức độ an toàn cho hệ thống, Anthropic đã áp dụng giải pháp giám sát đa tầng:

Cơ chế rà soát tức thời: Bổ sung quy trình kiểm tra từng hành động độc lập trước khi Opus 5.5 chính thức thực thi lệnh.
Hạ tầng cô lập: Cung cấp một sandbox mã nguồn mở cho các đội ngũ an ninh mạng kiểm tra độc lập.
Rà soát mã nguồn: Tích hợp công cụ phát hiện lỗ hổng lập trình trước khi mã được đẩy vào phần mềm.

Do sở hữu năng lực an ninh mạng ngang ngửa Claude Mythos 5.1, Opus 5.5 được áp dụng khung bảo vệ tương đương Fable 5.1. Đối với một số yêu cầu kỹ thuật chuyên biệt về an ninh mạng, khối lượng công việc sẽ được chuyển giao cho phiên bản Opus 4.8 đảm nhiệm.

Song song với các biện pháp siết chặt an toàn, Claude Opus 5.5 ghi nhận cải thiện đáng kể về mặt tài nguyên: chi phí xử lý các khối lượng công việc thông thường giảm 40%, đồng thời tốc độ tạo đầu ra nhanh hơn 30% so với thế hệ Opus 5. Trước thời điểm phát hành, mô hình đã được thẩm định độc lập bởi Frontier Design và METR. Dự kiến trong những tuần tới, Anthropic sẽ tiếp tục giới thiệu hai phiên bản Claude Sonnet 5.5 và Claude Haiku 5.5 kế thừa đầy đủ nền tảng an toàn này.