Nhà nghiên cứu của Anthropic từ chức vì lo ngại AI 'vượt tầm kiểm soát'
Một nhà nghiên cứu từng làm việc tại hai công ty trí tuệ nhân tạo (AI) hàng đầu thế giới đã nghỉ việc tại Anthropic, với lý do ngành công nghệ đang đẩy nhanh cuộc đua phát triển siêu trí tuệ nhân tạo trong khi chưa có giải pháp đầy đủ để kiểm soát những rủi ro tiềm tàng.
Ảnh minh họa
Jacob Coxon cho biết ông đã dành 3 năm nghiên cứu quá trình tiền huấn luyện mô hình tại OpenAI và Anthropic.
Trong bài đăng trên mạng xã hội X, ông Coxon nhận định cả hai doanh nghiệp chưa hành động đủ trách nhiệm và đang hướng tới việc tạo ra những hệ thống AI có khả năng tự cải thiện năng lực.
Theo ông Coxon, các hệ thống tương lai có thể vượt con người trong nhiều lĩnh vực, thực hiện những cuộc tấn công mạng phức tạp và tác động tới các nguồn lực trong thế giới thực.
Ông cảnh báo một bộ phận chuyên gia trực tiếp phát triển AI thực sự lo ngại công nghệ này có thể gây ra hậu quả đặc biệt nghiêm trọng đối với nhân loại trước cuối thập niên này.
Evan Hubinger, Trưởng nhóm nghiên cứu về căn chỉnh AI tại Anthropic, công khai chia sẻ phần lớn mối lo ngại này. Ông ước tính nguy cơ AI gây ra thảm họa đe dọa sự tồn tại của nhân loại trong vòng 10 năm tới ở mức trên 10%.
Tuy nhiên, ông Hubinger nhấn mạnh các mô hình AI hiện hành có mức độ rủi ro thấp. Mối quan tâm chính nằm ở những hệ thống siêu trí tuệ vẫn mang tính giả định, đặc biệt là khả năng AI tự cải tiến liên tục, nhanh chóng vượt khỏi năng lực giám sát và kiểm soát của con người.
Ông Hubinger cũng thừa nhận Anthropic hiện chưa có giải pháp hoàn chỉnh để bảo đảm một hệ thống siêu trí tuệ luôn hành động phù hợp với mục tiêu và giá trị của con người.
Sau khi từ chức, ông Coxon kêu gọi các doanh nghiệp AI phối hợp làm chậm quá trình phát triển những mô hình tiên tiến nhất.
Trong trường hợp không thể đạt được thỏa thuận tự nguyện trên phạm vi toàn cầu, ông cho rằng chính phủ các nước có thể phải xem xét biện pháp mạnh hơn, kể cả tạm thời hạn chế việc nâng cao năng lực mô hình.
Theo ABC, Reuters
