Chuyên gia cảnh báo nguy cơ “bùng nổ trí tuệ”, kêu gọi tăng cường giám sát AI

Trong báo cáo mới nhất do Trung tâm Chính sách An toàn AI thuộc Đại học Cambridge công bố ngày 28/9, các chuyên gia cảnh báo nguy cơ xảy ra một vụ “bùng nổ trí tuệ” trong tương lai, khi tốc độ phát triển của AI có thể vượt quá khả năng thích ứng và định hướng của xã hội. Theo báo cáo, nếu quá trình nghiên cứu và phát triển AI được tự động hóa ở mức cao, các hệ thống AI có thể tự cải thiện liên tục, tạo ra một vòng phản hồi tăng tốc và dẫn tới sự xuất hiện của những hệ thống có năng lực vượt trội so với con người.

Các chuyên gia trong ngành công nghệ cảnh báo vòng lặp này có thể rút ngắn quá trình tiến hóa công nghệ từ nhiều năm xuống chỉ còn vài tuần. Khi đó, các nguy cơ tiềm ẩn có thể xuất hiện nhanh hơn tốc độ xây dựng các biện pháp ứng phó.

Trước những lo ngại này, các nhà nghiên cứu kêu gọi chính phủ các nước sớm triển khai các biện pháp kiểm soát, trong đó có yêu cầu minh bạch nghiêm ngặt đối với hoạt động nghiên cứu và phát triển AI tự động, thiết lập cơ chế kiểm toán an toàn độc lập tại các công ty công nghệ và giới hạn tốc độ tự cải thiện của hệ thống AI.

Trong khi đó, cùng ngày 28/9, Tập đoàn công nghệ NVIDIA đã cho ra mắt nền tảng mã nguồn mở Nvidia Open Agent Safety Platform nhằm ngăn tác nhân AI vượt khỏi giới hạn an toàn.

Nền tảng mới gồm hai thành phần chính: Thành phần OpenShell tạo ra môi trường vận hành biệt lập và áp đặt các chính sách đối với hoạt động của tác nhân AI, bao gồm quyền truy cập tệp, mạng và các tài nguyên hệ thống; trong khi thành phần Sentry đóng vai trò giám sát độc lập ở cấp phần cứng và có thể cách ly tác nhân khi phát hiện hoạt động vượt quá giới hạn được thiết lập.

Động thái mới nhất của Nvidia được đưa ra trong bối cảnh một số sự cố gần đây cho thấy các tác nhân AI có khả năng vượt qua các biện pháp bảo vệ và thực hiện những hành động ngoài phạm vi được giao.