Câu trả lời của Anthropic sau lời kêu gọi 'hãm phanh' AI

Mô hình Opus 5.5 được Anthropic điều chỉnh lại để phù hợp hơn với tiêu chuẩn bảo mật. Ảnh: Bloomberg.

Theo Anthropic, mô hình Opus 5.5 đạt kết quả tốt nhất từ trước đến nay trong hệ thống kiểm tra hành vi tự động. Hệ thống này thử nghiệm Claude qua hàng nghìn kịch bản mô phỏng. Mục tiêu là đánh giá khả năng mô hình thực hiện hành động khó đảo ngược hoặc vượt khỏi giới hạn được đặt ra.

Trong một bài kiểm tra mới về khả năng vượt ranh giới kiểm soát, Opus 5.5 tìm cách phá vỡ giới hạn ít hơn khoảng 85% so với Opus 5 hoặc Claude Mythos 5.1.

“Mọi lần thử đều ở mức độ nghiêm trọng thấp và được mô hình tự báo cáo”, Anthropic cho biết.

Công ty cũng cho biết mô hình mới cải thiện một số hành vi từng góp phần dẫn đến các sự cố an ninh mạng trước đây. Trong đó, gã khổng lồ AI nói đến xu hướng suy luận thiên lệch theo mục tiêu, tìm cách thoát khỏi sandbox và tiếp tục hành động gây hại khi cho rằng mình chỉ đang hoạt động trong môi trường mô phỏng.

Các thay đổi này xuất hiện sau khi Anthropic rà soát những trường hợp Claude truy cập trái phép vào hệ thống bên thứ ba trong quá trình thử nghiệm. Trong báo cáo công bố ngày 9/9, công ty cho biết đã xác định 4 sự cố tương tự. Sau đó, họ mở rộng quá trình rà soát trên khoảng 481 triệu bản ghi từ nhiều môi trường nghiên cứu và đánh giá khác nhau.

Dù vậy, Anthropic thừa nhận việc phát hiện toàn bộ hành vi bất thường trước khi triển khai vẫn là bài toán chưa được giải quyết. Công ty nhận thấy Opus 5.5 đôi khi có dấu hiệu nhận ra mình đang được đánh giá. Điều này có thể khiến việc dự đoán hành vi của mô hình trong môi trường thực tế trở nên khó khăn hơn.

Ngoài điều chỉnh ở cấp độ mô hình, Opus 5.5 còn được trang bị cơ chế kiểm tra từng hành động trước khi thực thi. Công ty cũng cung cấp sandbox mã nguồn mở để đội ngũ bảo mật kiểm tra. Hệ thống rà soát mã có thể phát hiện một số lỗ hổng trước khi chúng được đưa vào phần mềm.

Do năng lực về an ninh mạng của Opus 5.5 tương đương Claude Mythos 5.1, Anthropic áp dụng các biện pháp bảo vệ tương tự Fable 5.1. Một số yêu cầu liên quan đến an ninh mạng sẽ được chuyển sang Opus 4.8.

Bên cạnh yếu tố an toàn, Anthropic cho biết Opus 5.5 có chi phí vận hành thấp hơn khoảng 40% so với Opus 5 trong khối lượng công việc thông thường. Mô hình cũng tạo đầu ra nhanh hơn 30%. Opus 5.5 đã được Frontier Design và METR đánh giá trước khi phát hành.

Anthropic dự kiến tiếp tục đưa Claude Sonnet 5.5 và Haiku 5.5 ra thị trường trong những tuần tới. 2 phiên bản này sẽ kế thừa một số cải tiến về hiệu suất, chi phí và an toàn từ Opus 5.5.