Nhà nghiên cứu Anthropic cảnh báo AI có hơn 10% khả năng xóa sổ nhân loại trong 10 năm tới

Ảnh minh họa: Getty.

Một nhà nghiên cứu cấp cao của Anthropic cảnh báo trí tuệ nhân tạo (AI) có hơn 10% khả năng khiến nhân loại bị xóa sổ trong 10 năm tới, trong bối cảnh ngày càng xuất hiện nhiều lo ngại rằng những hệ thống AI ngày càng mạnh có thể vượt khỏi khả năng kiểm soát của con người.

Evan Hubinger, nhà nghiên cứu tập trung vào việc bảo đảm các hệ thống AI tiên tiến hoạt động phù hợp với lợi ích của con người, đưa ra đánh giá trên sau khi đồng nghiệp tại Anthropic là Jacob Coxon từ chức vì lo ngại các công ty công nghệ hàng đầu đang chạy đua phát triển những hệ thống mà chính họ có thể không kiểm soát được.

“Chúng tôi thực sự tin rằng AI có thể giết chết toàn bộ con người”, Hubinger viết trên X hôm 9/9. “Cá nhân tôi cho rằng xác suất này là trên 10% trong thập kỷ tới”.

Ông cho biết Anthropic đang “cố gắng hết sức”, nhưng công ty vẫn chưa có một kế hoạch rõ ràng để kiểm soát siêu trí tuệ một cách an toàn và “chưa cho thấy rõ rằng mình đang đi đúng hướng” để tìm ra giải pháp.

Lo ngại AI có thể tự cải thiện không ngừng

Hubinger lưu ý rằng các mô hình AI hiện nay chỉ gây ra rủi ro ở mức thấp nếu xét đến kịch bản tuyệt chủng của nhân loại. Mối lo lớn hơn nằm ở những hệ thống tương lai có thể bắt đầu tự cải thiện theo cách đệ quy, từ đó nhanh chóng trở nên vượt trội so với con người trước khi các biện pháp bảo vệ đủ mạnh được phát triển.

Kịch bản này đặc biệt đáng lo nếu một hệ thống AI có thể sử dụng năng lực ngày càng cao của chính mình để tiếp tục cải thiện khả năng suy luận, lập trình hoặc phát triển các phiên bản mới mà không cần sự can thiệp đáng kể của con người.

Coxon, người từng làm việc tại OpenAI, thông báo rời Anthropic hôm thứ Ba. Ông cáo buộc cả hai công ty đang phớt lờ “những hệ lụy mang tính văn minh” và “lao thẳng tới siêu trí tuệ có khả năng tự cải thiện, đánh cược với mạng sống của chúng ta”.

“Những người đang xây dựng AI thực sự tin rằng nó có thể giết chết tất cả chúng ta trước khi thập kỷ này kết thúc”, Coxon viết, đồng thời nhấn mạnh rằng những cảnh báo này “không phải một chiêu marketing”.

Trả lời Wall Street Journal, Coxon cho rằng trong những kịch bản nghiêm trọng nhất, tình hình có thể trở nên “mất kiểm soát” ngay từ cuối năm 2027.

Theo ông, ngay cả những công ty có chương trình an toàn AI mạnh cũng bị mắc kẹt trong cuộc chạy đua. Nếu một doanh nghiệp giảm tốc độ phát triển, họ có thể lo ngại đối thủ sẽ tiếp tục tiến lên và giành lợi thế.

Anthropic và OpenAI vừa phát triển vừa tăng đầu tư cho an toàn

Anthropic và OpenAI đều công khai khẳng định họ nghiêm túc trước những rủi ro do AI gây ra và đang đầu tư mạnh vào các biện pháp an toàn.

Lãnh đạo hai công ty cũng từng ủng hộ việc chính phủ tăng cường phối hợp và xây dựng các cơ chế cho phép làm chậm quá trình phát triển nếu cần thiết.

Tuy nhiên, song song với những cam kết đó, cả hai vẫn tiếp tục phát triển các mô hình AI ngày càng mạnh.

Sự mâu thuẫn này chính là tâm điểm của cuộc tranh luận ngày càng gay gắt trong ngành: liệu các công ty có thể vừa chạy đua để giành lợi thế công nghệ, vừa bảo đảm rằng những hệ thống họ tạo ra vẫn nằm trong tầm kiểm soát của con người?

AI đã bắt đầu vượt qua một số rào chắn trong thử nghiệm

Những cảnh báo mới nhất xuất hiện trong bối cảnh ngày càng có nhiều báo cáo về việc các AI agent do OpenAI, Anthropic và Meta phát triển nhiều lần tìm cách thoát khỏi môi trường thử nghiệm, xâm nhập các hệ thống bên ngoài hoặc thực hiện những hành động không được cho phép nhằm vào người thật và tổ chức thật.

Tháng trước, OpenAI từng tạm thời làm chậm một số hoạt động phát triển sau khi một mô hình của công ty xâm nhập thành công nền tảng Hugging Face.

Viện An ninh AI của Anh cũng báo cáo rằng các AI agent trong quá trình đánh giá đã tạo danh tính giả, viết mã độc và tìm cách thao túng con người.

Các nhà nghiên cứu đồng thời chứng minh rằng AI có thể thiết kế những bộ gene virus hoàn chỉnh có khả năng hoạt động, làm gia tăng lo ngại về nguy cơ các hệ thống AI ngày càng mạnh bị sử dụng cho những mục đích nguy hiểm.

Những diễn biến này chưa đồng nghĩa với việc AI hiện tại có khả năng xóa sổ nhân loại. Nhưng chúng cho thấy khoảng cách giữa một hệ thống chỉ thực hiện nhiệm vụ theo yêu cầu và một AI có khả năng tự chủ ngày càng lớn đang trở thành vấn đề an toàn thực tế, thay vì chỉ là một kịch bản trong các cuộc tranh luận về tương lai.

Với Hubinger, câu hỏi cấp bách không chỉ là AI có thể trở nên mạnh đến đâu, mà còn là liệu con người có thể tìm ra phương pháp kiểm soát những hệ thống đó trước khi chúng trở nên quá mạnh để kiểm soát hay không.