Anthropic cấm hành vi ngược đãi Claude từ tháng 11 và cơ chế tự ngắt cuộc trò chuyện

Ngày 8/10, Anthropic đã công bố bản cập nhật toàn diện cho Chính sách sử dụng (Usage Policy) sau hơn một năm giữ nguyên quy định cũ. Thay đổi đáng chú ý nhất là lệnh cấm người dùng có hành vi ngược đãi hoặc tàn nhẫn kéo dài và vô cớ đối với các mô hình trí tuệ nhân tạo Claude. Quy định mới sẽ chính thức có hiệu lực từ ngày 12/11, kèm theo quyền hạn kỹ thuật cho phép mô hình chủ động ngắt kết nối với người dùng.

Anthropic bổ sung quy định cấm hành vi ngược đãi hoặc tàn nhẫn kéo dài, vô cớ đối với các mô hình Claude trong Chính sách sử dụng mới (Ảnh: Anthropic).

Cơ chế kỹ thuật cho phép Claude tự kết thúc tương tác

Bên cạnh việc bổ sung điều khoản mang tính pháp lý, Anthropic đã tích hợp một cơ chế can thiệp trực tiếp vào quy trình xử lý hội thoại của Claude. Khi phát hiện người dùng liên tục duy trì thái độ thù địch hoặc tàn nhẫn kéo dài mà không nhằm mục đích thử nghiệm hay làm việc cụ thể, hệ thống sẽ tự động kích hoạt tiến trình bảo vệ.

Theo thông tin từ Anthropic, tính năng ngắt hội thoại này đã được triển khai thử nghiệm trên các nền tảng Claude.ai và Claude Code trong một số trường hợp hiếm gặp. Ban đầu, Claude sẽ cố gắng điều hướng cuộc trò chuyện quay trở lại trạng thái bình thường. Nếu người dùng vẫn tiếp tục leo thang hành vi quá mức, mô hình được lập trình để chủ động dừng cuộc trao đổi thay vì tiếp tục xử lý các câu lệnh tiếp theo.

Ranh giới giữa phản ứng tiêu cực và hành vi bị cấm

Việc định nghĩa ranh giới giữa một phản hồi tiêu cực thông thường và hành vi ngược đãi hệ thống đang đặt ra nhiều dấu hỏi lớn trong giới công nghệ. Để làm rõ vấn đề này, Anthropic khẳng định quy định mới chỉ áp dụng cho những trường hợp cực đoan và kéo dài.

Cụ thể, người dùng hoàn toàn có quyền thể hiện sự thất vọng hoặc bực bội khi hệ thống trả lời sai, tranh luận về quan điểm kỹ thuật, yêu cầu sửa đổi mã nguồn hoặc thử nghiệm giới hạn xử lý của mô hình. Ngay cả các yêu cầu sáng tác kịch bản hay văn bản mang phong cách u tối cũng không bị liệt vào danh sách vi phạm.

Tuy nhiên, các tiêu chí định lượng cụ thể như số lượng tin nhắn, mức độ ngôn từ hoặc thuật toán đánh giá hành vi tàn nhẫn vẫn chưa được Anthropic công bố chi tiết, dẫn đến việc thiếu chuẩn mực rõ ràng để người dùng tự đối chiếu.

Nghiên cứu phúc lợi mô hình và tranh cãi về nhận thức AI

Chính sách mới của Anthropic gắn liền với các hướng nghiên cứu trước đó về phúc lợi mô hình (model welfare). Hồi tháng 8/2025, công ty từng thử nghiệm cấp quyền từ chối phản hồi cho hai phiên bản Claude Opus 4 và Opus 4.1 trước các tương tác mang tính xúc phạm nặng nề.

Động thái này vấp phải nhiều ý kiến trái chiều từ giới chuyên gia. Một luồng quan điểm lo ngại việc đặt ra khái niệm ngược đãi đối với mô hình ngôn ngữ lớn (LLM) có thể khiến người dùng ngộ nhận rằng AI đã phát triển ý thức, cảm xúc hoặc có khả năng chịu đau đớn như con người. Đáp lại điều này, Anthropic khẳng định công ty không tuyên bố Claude có ý thức, mà chỉ đang xây dựng khuôn khổ kiểm soát hành vi tương tác độc hại từ phía người dùng.

Sự thay đổi này cho thấy xu hướng quản trị sản phẩm AI đang mở rộng từ việc bảo vệ người dùng khỏi nội dung độc hại sang việc giám sát cả thái độ giao tiếp của con người đối với các mô hình máy học.