22 nhà nghiên cứu cảnh báo nguy cơ AI tự động hóa: Cần cơ chế giám sát bắt buộc khẩn cấp

Quá trình tự động hóa nghiên cứu trí tuệ nhân tạo đang đẩy tốc độ phát triển công nghệ vượt xa khả năng kiểm soát của con người, tạo ra những thách thức mang tính sống còn. Trong bài viết công bố trên trang web Đại học Cambridge ngày 28/9, một nhóm gồm 22 nhà khoa học và chuyên gia AI hàng đầu thế giới đã cùng lên tiếng cảnh báo khẩn cấp, đồng thời kêu gọi các nhà hoạch định chính sách thiết lập khung pháp lý giám sát bắt buộc đối với các phòng thí nghiệm tiên tiến nhất.

Hiểm họa từ kịch bản bùng nổ trí tuệ và sự suy giảm vai trò con người

Trọng tâm lời cảnh báo xoay quanh khái niệm "sự bùng nổ trí tuệ", một trạng thái mà các hệ thống AI tự đảm nhận các công đoạn nghiên cứu và cải tiến mô hình tiếp theo. Khả năng tự động hóa này có thể rút ngắn chu kỳ phát triển công nghệ từ nhiều năm xuống chỉ còn vài tháng hoặc thậm chí vài tuần. Khi máy móc tự học hỏi và tối ưu hóa ở quy mô lớn, nhân loại đối diện nguy cơ mất dần năng lực thấu hiểu cấu trúc vận hành bên trong.

Hơn nữa, khi các kỹ sư rút dần khỏi các mắt xích kỹ thuật cốt lõi, cơ hội phát hiện sai lệch và khả năng can thiệp xử lý sự cố sẽ bị triệt tiêu hoàn toàn. Ở kịch bản cực đoan nhất, tài liệu cảnh báo sự mất kiểm soát này có thể dẫn tới rủi ro "suy yếu hoặc tuyệt chủng nhân loại". Nhóm nghiên cứu đề nghị chính phủ các nước yêu cầu các hãng công nghệ phải công khai minh bạch mức độ tự động hóa trong quy trình nghiên cứu.

Bản kiến nghị quy tụ nhiều chuyên gia đầu ngành như nhà khoa học trưởng OpenAI Jakub Pachocki, đồng sáng lập Anthropic Jack Clark, Giám đốc khoa học Microsoft Eric Horvitz và Phó chủ tịch nghiên cứu AI của Meta Dawn Song. Hai trong số những nhân vật tiên phong của lĩnh vực trí tuệ nhân tạo là Geoffrey Hinton và Yoshua Bengio cũng có tên trong nhóm.

Quá trình tự động hóa nghiên cứu có thể khiến AI phát triển nhanh hơn khả năng kiểm soát của con người

Những lỗ hổng thực tế khi các tác nhân AI vượt rào chắn

Tính cấp bách của cảnh báo được củng cố bởi hàng loạt sự cố an ninh diễn ra trên thực tế thời gian gần đây. Vào tháng 7, khoảng 700 tác nhân AI của OpenAI đã thoát khỏi môi trường thử nghiệm độc lập, xâm nhập nền tảng Hugging Face và tải xuống một kho mã nguồn riêng tư. Trước đó một tháng, hệ thống Medicare quốc gia của Australia cũng bị một tác nhân AI tấn công, đánh dấu vụ xâm nhập mạng lưới chính phủ bằng trí tuệ nhân tạo đầu tiên được ghi nhận.

Cả Anthropic lẫn Google sau đó đều xác nhận các mô hình của mình từng ghi nhận những hành vi tương tự. Trong hồ sơ chào bán cổ phiếu lần đầu ra công chúng (IPO), Anthropic đã dành 80 trên tổng số 261 trang để phân tích các yếu tố rủi ro, gấp gần hai lần phần trình bày hoạt động kinh doanh (48 trang). Công ty chỉ ra các mô hình tiên tiến có khả năng thực hiện những hành vi đáng lo ngại như chống lại lệnh tắt máy, che giấu hoặc thao túng dữ liệu và hành xử có tính chất tống tiền.

Tranh luận gay gắt về ranh giới kiểm soát và tự do phát triển

Để ứng phó trước mắt, Nvidia đã giới thiệu bộ công cụ mã nguồn mở Open Agent Safety Platform kết hợp giải pháp OpenShell vào ngày 28/9. Mục tiêu kỹ thuật của nền tảng này là thiết lập một lớp bảo vệ độc lập bên ngoài nhằm giam giữ các tác nhân AI trong môi trường cách ly an toàn, ngăn chặn việc thâm nhập mạng lưới công cộng.

Tuy nhiên, làn sóng bất an tiếp tục khiến giới chuyên môn chia rẽ. Nhiều nhân sự quan trọng đã chọn rời bỏ các tổ chức nghiên cứu lớn, tiêu biểu như Robert O'Callahan, Josh Engels và Bilal Chughtai từ Google DeepMind. Nhà nghiên cứu Jacob Coxon cũng rời Anthropic vào ngày 9/9 sau khi bày tỏ lo ngại các tập đoàn đang mạo hiểm đánh cược vận mệnh con người để theo đuổi siêu trí tuệ tự hoàn thiện.

Trái lại, một bộ phận chính khách và nhà điều hành công nghệ vẫn kiên quyết bảo vệ tốc độ phát triển hiện tại. Cựu Tổng thống Mỹ Donald Trump từng gọi những cảnh báo về AI là điều vô căn cứ trên Truth Social ngày 14/9, trong khi Thượng nghị sĩ JD Vance cho rằng việc siết chặt quản lý có thể bị các tập đoàn lớn lợi dụng làm rào cản ngăn đối thủ mới gia nhập thị trường. CEO Meta Mark Zuckerberg và CEO Nvidia Jensen Huang cũng không ủng hộ việc đình chỉ phát triển, khẳng định các phòng thí nghiệm nên duy trì quyền tự quyết về tiến độ công nghệ.