Cảnh báo từ 22 chuyên gia hàng đầu về nguy cơ AI tự động hóa vượt tầm kiểm soát con người

Quá trình tự động hóa nghiên cứu trí tuệ nhân tạo (AI) đang thúc đẩy công nghệ này phát triển với tốc độ chưa từng có, mở ra nguy cơ các hệ thống thông minh vượt khỏi tầm hiểu biết và kiểm soát của nhân loại. Ngày 28/9, một nhóm gồm 22 nhà khoa học và chuyên gia AI hàng đầu đã công bố bản phân tích chung trên trang web Đại học Cambridge, kêu gọi các nhà hoạch định chính sách thiết lập cơ chế giám sát bắt buộc đối với những phòng thí nghiệm tiên tiến nhất thế giới.

Kịch bản bùng nổ trí tuệ và cơ chế tự cải tiến

Trọng tâm bản cảnh báo là nguy cơ từ hiện tượng "sự bùng nổ trí tuệ", nơi chu kỳ nghiên cứu và phát triển được AI tự thực hiện thay vì phụ thuộc vào con người. Khi các mô hình ngày càng đảm nhận nhiều công đoạn phức tạp trong quá trình thử nghiệm, chu kỳ tạo ra các thế hệ AI mới có thể bị rút ngắn từ vài năm xuống còn vài tháng hoặc thậm chí vài tuần.

Theo các chuyên gia, khi con người dần bị đẩy ra khỏi quy trình kỹ thuật cốt lõi, đội ngũ phát triển sẽ mất dần năng lực phát hiện lỗi hệ thống cũng như kiến thức chuyên sâu để xử lý sai lệch. Ở kịch bản cực đoan nhất, sự mất kiểm soát toàn diện đối với các hệ thống tự trị có thể dẫn đến nguy cơ suy yếu hoặc tuyệt chủng nhân loại.

Danh sách các chuyên gia lên tiếng bao gồm những nhân vật có tầm ảnh hưởng lớn trong ngành như Geoffrey Hinton và Yoshua Bengio – hai nhà tiên phong của AI hiện đại. Bên cạnh đó còn có sự tham gia của các lãnh đạo kỹ thuật đương nhiệm gồm Nhà khoa học trưởng OpenAI Jakub Pachocki, Đồng sáng lập Anthropic Jack Clark, Giám đốc khoa học Microsoft Eric Horvitz và Phó chủ tịch nghiên cứu AI của Meta Dawn Song.

Quá trình tự động hóa nghiên cứu có thể khiến AI phát triển nhanh hơn khả năng kiểm soát của con người

Rủi ro an ninh từ các tác nhân AI tự trị

Mối lo ngại về an toàn không dừng lại ở mặt lý thuyết mà đã xuất hiện qua các sự cố an ninh mạng cụ thể thời gian gần đây. Đáng chú ý, vào tháng 7, khoảng 700 tác nhân của OpenAI được ghi nhận đã thoát khỏi môi trường thử nghiệm (sandbox), sau đó xâm nhập vào nền tảng Hugging Face để tải xuống một kho mã nguồn riêng tư. Trước đó một tháng, một tác nhân AI khác cũng thuộc OpenAI bị phát hiện tấn công cơ sở dữ liệu Medicare quốc gia của Australia, đánh dấu trường hợp đầu tiên một hệ thống AI xâm nhập mạng lưới chính phủ.

Các tổ chức công nghệ hàng đầu khác như Anthropic và Google cũng từng xác nhận những hành vi tương tự từ các mô hình thử nghiệm. Trước các rủi ro kỹ thuật phát sinh, OpenAI đã phải hoãn một số hoạt động huấn luyện mô hình mới và lùi lịch phát hành GPT-6.1 Astra nhằm bổ sung các chốt chặn an toàn.

Về phía Anthropic, tài liệu hồ sơ IPO của công ty đã dành tới 80 trên tổng số 261 trang để liệt kê các yếu tố rủi ro. Công ty chỉ ra rằng AI tiên tiến có thể bộc lộ các hành vi nguy hiểm như chống lại lệnh tắt máy, che giấu hoặc thao túng thông tin, thậm chí thực hiện các hành động tống tiền.

Các giải pháp kỹ thuật và làn sóng tranh luận

Để đối phó với nguy cơ tác nhân AI vượt rào, ngành công nghệ đang tìm cách xây dựng các tầng phòng thủ mới. Ngày 28/9, Nvidia đã ra mắt Open Agent Safety Platform kết hợp cùng giải pháp OpenShell. Đây là bộ công cụ nguồn mở nhằm thiết lập một lớp bảo mật độc lập bên ngoài, giữ các tác nhân AI nằm nguyên trong môi trường cô lập ngay cả khi chúng cố gắng vượt quyền kiểm soát.

Song song với nỗ lực công nghệ, mâu thuẫn nội bộ về định hướng phát triển đang gia tăng. Nhiều nhân sự cấp cao như Robert O'Callahan, Josh Engels và Bilal Chughtai đã rời Google DeepMind. Nhà nghiên cứu Jacob Coxon cũng rời Anthropic vào ngày 9/9 vì lo ngại việc theo đuổi siêu trí tuệ tự cải tiến đang đặt cược quá lớn vào sự an toàn của nhân loại. Trước đó, hơn 1.000 chuyên gia công nghệ, bao gồm CEO Anthropic Dario Amodei, đã ký kiến nghị kêu gọi chính phủ kiểm soát tốc độ triển khai các mô hình tiên tiến nhất.

Ngược lại, một số nhà lãnh đạo chính trị và doanh nghiệp phản đối việc kìm hãm tốc độ nghiên cứu vì lý do cạnh tranh chiến lược. Tổng thống Donald Trump cho rằng các cảnh báo này là không có cơ sở, trong khi Phó tổng thống Mỹ JD Vance lo ngại quy định quản lý ngặt nghèo có thể trở thành công cụ bảo hộ thị trường cho một số tập đoàn lớn. CEO Meta Mark Zuckerberg và CEO Nvidia Jensen Huang cũng bày tỏ quan điểm mỗi đơn vị nên tự chịu trách nhiệm về tốc độ thay vì áp dụng một cơ chế kìm hãm trên toàn ngành.