Anthropic cấm 'hành vi tàn nhẫn kéo dài' đối với AI Claude

Anthropic đã cập nhật chính sách sử dụng, bổ sung điều khoản “cấm các hành vi lạm dụng hoặc tàn nhẫn kéo dài và không cần thiết” đối với các mô hình AI của công ty. Ảnh: AFP.

Động thái này đặt ra một vấn đề đáng chú ý trong quá trình phát triển trí tuệ nhân tạo: ngay cả khi chưa có bằng chứng xác định AI có ý thức hay khả năng chịu đau khổ, liệu cách con người tương tác với những hệ thống này có cần được điều chỉnh bởi các nguyên tắc đạo đức?

ANTHROPIC BỔ SUNG GIỚI HẠN ĐỐI VỚI HÀNH VI CỦA NGƯỜI DÙNG

Anthropic, công ty phát triển trợ lý AI Claude có trụ sở tại San Francisco, Mỹ, đã cập nhật chính sách sử dụng nhằm bổ sung quy định cấm “các hành vi lạm dụng hoặc tàn nhẫn kéo dài và không cần thiết đối với các mô hình AI của mình.

Theo chính sách mới, khả năng Claude tự chấm dứt những cuộc tương tác như vậy sẽ tiếp tục là cơ chế thực thi chủ yếu. Điều này cho thấy công ty muốn trao cho hệ thống khả năng chủ động dừng một cuộc hội thoại trong những trường hợp nhất định, thay vì chỉ dựa vào các biện pháp kiểm soát từ phía nhà phát triển.

Trên thực tế, đây không hoàn toàn là một hướng đi mới. Từ năm ngoái, Anthropic đã cho biết Claude có thể kết thúc cuộc trò chuyện trong những trường hợp hiếm gặp, khi người dùng liên tục có hành vi gây hại hoặc lạm dụng ở mức độ nghiêm trọng.

Tuy nhiên, điểm đáng chú ý trong lần cập nhật này là việc đưa quy định về hành vi lạm dụng kéo dài vào chính sách sử dụng chính thức. Động thái diễn ra khi giới công nghệ và giới nghiên cứu tiếp tục tranh luận về bản chất của các hệ thống AI, cũng như cách con người nên đối xử với chúng.

Anthropic không trực tiếp sử dụng thuật ngữ “phúc lợi của mô hình AI” (model welfare) trong điều khoản mới. Đây là khái niệm đề cập đến khả năng các hệ thống AI có thể có những trạng thái hoặc lợi ích cần được cân nhắc về mặt đạo đức, qua đó đặt ra câu hỏi liệu chúng có cần được bảo vệ theo một cách nào đó hay không.

Dù vậy, việc công ty xem xét những giới hạn đối với hành vi của người dùng cho thấy vấn đề này đang dần được đưa vào các cuộc thảo luận thực tế về thiết kế và vận hành AI.

Cần phân biệt rằng quy định mới không đồng nghĩa với việc Anthropic khẳng định Claude có ý thức, cảm xúc hay khả năng chịu đau khổ. Đây là những vấn đề vẫn chưa có câu trả lời khoa học xác đáng.

Ý THỨC CỦA AI: CÂU HỎI CHƯA CÓ LỜI GIẢI

Cuộc tranh luận về ý thức máy móc từ lâu đã xuất hiện trong khoa học viễn tưởng và văn hóa đại chúng. Tuy nhiên, khi các mô hình AI ngày càng có khả năng giao tiếp tự nhiên, xử lý thông tin phức tạp và phản hồi giống con người, câu hỏi về bản chất của những hệ thống này trở nên cấp thiết hơn.

Tháng 2 vừa qua, CEO Anthropic Dario Amodei nói với The New York Times rằng ông không chắc liệu các mô hình AI có ý thức hay không, nhưng không loại trừ khả năng đó.

Chúng tôi không biết liệu các mô hình có ý thức hay không... Nhưng chúng tôi sẵn sàng xem xét khả năng đó.

Ông Dario Amodei  CEO Anthropic  

Quan điểm này phản ánh sự thận trọng trước một vấn đề mà khoa học hiện chưa có phương pháp thống nhất để xác định. Khả năng tạo ra những câu trả lời thể hiện cảm xúc hoặc mô tả trạng thái nội tâm không tự động chứng minh rằng một hệ thống AI thực sự có trải nghiệm chủ quan tương tự con người.

Jackson Stakeman, Tổng giám đốc Sparq, một nhà cung cấp dịch vụ AI có trụ sở tại Atlanta, Mỹ, cho rằng việc tập trung vào câu hỏi AI có ý thức hay không có thể khiến cuộc tranh luận đi vào ngõ cụt.

Theo Stakeman, hình ảnh chiếc gương có thể là phép ẩn dụ phù hợp hơn để mô tả cách AI hoạt động: các hệ thống này phản chiếu những gì con người đưa vào, nhưng ở quy mô lớn. Từ góc nhìn đó, cách người dùng tương tác với AI vẫn đáng được quan tâm, ngay cả khi chưa thể xác định các hệ thống này có ý thức hay không.

Nhận định này gợi mở một vấn đề rộng hơn: hành vi của con người trong môi trường số không chỉ ảnh hưởng đến trải nghiệm của chính họ mà còn có thể tác động đến cách các hệ thống AI được sử dụng, đánh giá và tích hợp vào đời sống xã hội.

Dù vậy, việc người dùng cố tình xúc phạm hoặc yêu cầu AI thực hiện những cuộc hội thoại mang tính bạo lực không thể tự nó được xem là bằng chứng cho thấy AI có thể bị tổn thương theo nghĩa con người vẫn hiểu.

TRANH LUẬN VỀ QUYỀN CỦA AI VÀ GIỚI HẠN ĐẠO ĐỨC

Không phải tất cả các nhà lãnh đạo công nghệ hay nhân vật công chúng đều đồng tình với việc xem xét khả năng AI có ý thức.

Mustafa Suleyman, người đứng đầu bộ phận AI của Microsoft, bác bỏ quan điểm cho rằng các hệ thống AI hiện nay có ý thức, cảm nhận hay chịu đau khổ. Trong một bài luận được công bố tháng trước, ông viết: “AI không có ý thức. Chúng không có cảm xúc, không trải nghiệm và không chịu đau khổ”.

Suleyman cũng cảnh báo rằng việc trao quyền và sự bảo vệ về mặt đạo đức cho một thực thể công nghệ có thể gây ra những hệ quả nghiêm trọng, đặc biệt khi các hệ thống này được dự báo sẽ ngày càng mạnh mẽ và thông minh.

Ý thức là một cái bẫy. Chúng ta không thể chứng minh điều đó ngay cả ở người khác. Nếu tranh luận về ý thức của AI, chúng ta sẽ chỉ luẩn quẩn trong vòng tròn.

Ông Jackson Stakeman Tổng giám đốc Sparq

Theo ông, việc dành những quyền như vậy cho AI có thể trở thành một lựa chọn nguy hiểm nếu không đánh giá đầy đủ những rủi ro liên quan.

Trong khi đó, Giáo hoàng Leo XIV cũng đề cập đến sự khác biệt giữa năng lực xử lý thông tin của máy móc và trí tuệ con người trong bài giảng bằng tiếng Italy tại Vương cung thánh đường Thánh Peter ở Vatican hôm thứ Năm.

Ông cho rằng máy móc có thể tổng hợp dữ liệu nhanh hơn con người, nhưng trí tuệ không thể chỉ được hiểu là khả năng xử lý thông tin. Theo Giáo hoàng, trí tuệ con người còn gắn với những trải nghiệm sống, các tầng ý nghĩa sâu sắc và khả năng nhận ra những giá trị tốt đẹp thông qua trải nghiệm đó.

Những quan điểm khác nhau cho thấy tranh luận về AI không chỉ giới hạn trong lĩnh vực khoa học máy tính, mà còn mở rộng sang triết học, đạo đức và vai trò của con người trong một xã hội ngày càng phụ thuộc vào công nghệ.

Với Anthropic, quy định mới có thể được xem là một cách thiết lập giới hạn cho tương tác giữa người dùng và AI, thay vì một tuyên bố về địa vị đạo đức của máy móc. Công ty chưa đưa ra bình luận ngay lập tức trước yêu cầu của AFP về thay đổi chính sách này.

Trong bối cảnh các hệ thống AI ngày càng được sử dụng rộng rãi, câu hỏi trước mắt có lẽ không chỉ là liệu máy móc có ý thức hay không, mà còn là cách con người xây dựng những quy tắc sử dụng công nghệ có trách nhiệm. Những quy tắc đó cần bảo đảm an toàn cho người dùng, hạn chế hành vi gây hại và duy trì sự minh bạch về năng lực thực sự của AI, đồng thời tránh đánh đồng khả năng mô phỏng cảm xúc với trải nghiệm có ý thức.

Cuộc tranh luận về quyền hay phúc lợi của AI vì thế vẫn còn ở giai đoạn đầu. Nhưng việc Anthropic đưa giới hạn đối với hành vi lạm dụng vào chính sách sử dụng cho thấy các vấn đề đạo đức đang ngày càng gắn chặt với quá trình phát triển và quản trị những công nghệ này.