Người dùng có thể bị AI từ chối trò chuyện nếu liên tục có hành vi 'ngược đãi'
Những người dùng liên tục có hành vi xúc phạm, đối xử tàn nhẫn với AI có thể sẽ bị AI phớt lờ, không trả lời nữa. Đây là quy định mới liên quan đến một mô hình AI phổ biến. Vậy có phải từ giờ, người dùng không được phàn nàn, nổi nóng hoặc mắng AI?
Một điều khiến nhiều người thích trò chuyện với AI chính là AI sẽ luôn trả lời (trừ lúc bị lỗi). Thế nhưng một quy định mới có thể sẽ làm thay đổi điều này.
Mô hình Claude có thể ngừng trò chuyện với người dùng
Anthropic, công ty phát triển mô hình AI nổi tiếng Claude, vừa bổ sung quy định cấm những hành vi ngược đãi đối với các mô hình AI của hãng.
Quy định này nhắm đến những trường hợp cực đoan, khi người dùng có "những hành vi tàn nhẫn kéo dài và không cần thiết" với AI, theo The Guardian. Nếu người dùng làm như vậy thì mô hình Claude có thể sẽ tự kết thúc cuộc trò chuyện, không trả lời nữa.
Tuy nhiên, công ty chưa nói rõ hành vi thế nào bị coi là "tàn nhẫn không cần thiết".
Claude hiện đang phát triển nhanh, thậm chí được nhiều người dùng ưa thích hơn ChatGPT. Ảnh minh họa: Claude.
Nhưng quy định mới này cũng không có nghĩa là người dùng phải cực kỳ lịch sự hay lễ phép thì mới có thể nói chuyện với Claude. Công ty Anthropic khẳng định những phản ứng bực bội thông thường, việc phản biện, chủ đề sáng tạo tăm tối hay nghiên cứu không thuộc phạm vi cấm, theo PC Mag.
Hiện chưa rõ lý do tại sao công ty Anthropic lại đưa ra quy định này vào thời điểm hiện tại, và liệu có phải do hành vi cụ thể nào hay không.
Nếu AI Claude kết thúc cuộc trò chuyện thì sao?
Theo trang Mothership, người dùng vi phạm các chính sách có thể bị khóa tài khoản, nhưng hành vi "ngược đãi AI" thì có thể chỉ bị AI "bơ" trong cuộc trò chuyện đó, và người dùng vẫn có thể mở cuộc trò chuyện mới.
Dario Amodei, CEO của công ty Anthropic. Ảnh: AP Photo/ Markus Schreiber.
Quy định mới này của Anthropic hiện cũng gây nhiều tranh luận. Có những người coi đây là cách tốt, khuyến khích người dùng lịch sự hơn; nhưng cũng có những người cảnh báo về việc coi AI có cảm xúc như con người.
Và cũng có những người hài hước nói rằng, bây giờ đến cả việc gửi tin nhắn cho AI cũng có thể bị "seen không rep" (đã xem nhưng không trả lời) nữa, thật là buồn!
Quy định mới trên đây dự kiến được áp dụng từ ngày 12/11.
