Anthropic kêu gọi người dùng ngừng 'miệt thị' Claude

Anthropic vừa cập nhật các quy định nhằm ngăn chặn người dùng có hành vi không thân thiện với Claude, dường như cho rằng chatbot AI của mình cần được bảo vệ khỏi chính những người đang trả tiền để sử dụng nó.

Chính sách sử dụng mới nhất của nhà phát triển AI này cấm "hành vi lạm dụng hoặc tàn nhẫn kéo dài và không cần thiết" đối với các mô hình AI của họ. Quy định này sẽ có hiệu lực từ ngày 12/11, cho người dùng hơn một tháng để loại bỏ những lời lẽ xúc phạm còn sót lại.

Anthropic cập nhật điều khoản sử dụng cấm "hành vi lạm dụng hoặc tàn nhẫn kéo dài và không cần thiết".

"Bản cập nhật chính sách này chỉ áp dụng trong những trường hợp nghiêm trọng, khi người dùng liên tục có hành vi tàn nhẫn với các mô hình của chúng tôi mà không có mục đích rõ ràng," Anthropic cho biết.

"Nó không áp dụng cho những biểu hiện thông thường của sự thất vọng, phản biện, chủ đề sáng tạo tối hoặc các hoạt động kiểm thử, nghiên cứu mô hình."

Như vậy, bạn vẫn có thể nói với Claude rằng nó sai, nhưng nếu liên tục mắng nhiếc chỉ để thỏa mãn bản thân thì có thể sẽ gặp rắc rối.

Hiện chưa rõ Anthropic sẽ phân biệt thế nào giữa sự thất vọng chính đáng và hành vi tàn nhẫn vô cớ, dù họ cho biết khả năng kết thúc cuộc trò chuyện lạm dụng của Claude vẫn là công cụ thực thi chính.

Anthropic đã trang bị cho Claude khả năng kết thúc một số cuộc trò chuyện từ tháng 8/2025 như một phần trong nghiên cứu về cái gọi là "phúc lợi mô hình". Tính năng này cho phép một số phiên bản Claude ngắt kết nối với người dùng liên tục có hành vi lạm dụng mô hình.

Cũng cần nhớ rằng Claude chỉ là phần mềm, không phải con người, và chưa có bằng chứng nào cho thấy nó thực sự cảm thấy đau khổ. Tuy nhiên, điều đó không ngăn được Anthropic yêu cầu khách hàng trả phí phải giữ phép lịch sự khi trò chuyện với chatbot của mình.

Anthropic đối mặt với những người dùng nói những lời khó nghe với chatbot của mình.

Các quy tắc ứng xử chỉ là một phần trong cuộc cải tổ toàn diện, bao gồm cả những vấn đề hệ trọng hơn như can thiệp bầu cử, phát triển vũ khí và giám sát.

Anthropic đã siết chặt các hạn chế đối với các chiến dịch gây ảnh hưởng lừa đảo sau khi phát hiện các cơ quan truyền thông nhà nước, văn phòng tuyên truyền của chính phủ và các tổ chức thương mại sử dụng Claude để vận hành tài khoản giả và các trang tin tức bịa đặt.

Đồng thời, công ty cũng đã dỡ bỏ lệnh cấm toàn diện đối với việc nhắm mục tiêu chính trị cá nhân hóa, với lý do quy định này cũng ảnh hưởng đến các hoạt động hợp pháp như tổ chức phi lợi nhuận dịch thông tin cho cử tri. Tuy nhiên, việc nhắm mục tiêu lừa đảo và sử dụng sai thông tin cá nhân vẫn bị cấm.

Công ty cũng làm rõ rằng lệnh cấm phát triển vũ khí mở rộng sang cả phần mềm và các thành phần, sau khi phát hiện các nỗ lực sử dụng Claude để phát triển hệ thống dẫn đường và điều khiển cho vũ khí, bao gồm cả máy bay không người lái vũ trang và phương tiện tự hành.

Trong khi đó, Claude không được sử dụng để đề xuất những người mà cảnh sát nên điều tra, bắt giữ hoặc truy tố, cũng như không được phát triển các công cụ phục vụ giám sát.

Việc theo dõi người khác mà không có sự đồng ý, dù là theo thời gian thực hay truy vết sau đó, cũng bị cấm. Anthropic cho biết những thay đổi này nhằm làm rõ các hạn chế hiện có chứ không phải bổ sung quy định mới.

Các hành vi sử dụng Claude tìm hiểu chế tạo vũ khí, thiết bị bay không người lái v.v.. cũng bị ngăn cấm.

Cũng có những yêu cầu mới đối với khách hàng kết nối Claude với thiết bị vật lý có khả năng gây thương tích. Một người vận hành có chuyên môn phải có khả năng giám sát và dừng thiết bị, đồng thời thiết bị phải ở trạng thái an toàn nếu kết nối AI bị gián đoạn.

Cuộc cải tổ chính sách diễn ra trong bối cảnh Anthropic đang nỗ lực giải quyết một số rủi ro an ninh do các hệ thống AI ngày càng mạnh mẽ gây ra. Công ty cũng vừa khởi động một sáng kiến an ninh mạng mới nhằm hỗ trợ các đơn vị vận hành hạ tầng trọng yếu và các dự án mã nguồn mở phát hiện, khắc phục lỗ hổng bảo mật bằng các mô hình AI của mình.

Nỗ lực này bao gồm việc quét bảo mật miễn phí cho các dự án mã nguồn mở đủ điều kiện và hợp tác với các công ty an ninh mạng để bảo vệ hạ tầng trọng yếu. Anthropic dự đoán các đối tượng tấn công sẽ chiếm ưu thế trong hai năm tới trước khi các biện pháp phòng thủ dựa trên AI bắt kịp.

Video: Tích hợp Claude cho Google Workspase, biến AI thành trợ ký công việc thực thụ