Nvidia ra mắt hệ thống ngăn chặn tác nhân AI hoạt động sai lệch

Biểu tượng của Tập đoàn Nvidia. Ảnh: Getty Images/TTXVN

Theo hãng tin Bloomberg, Nvidia đã giới thiệu hai công cụ bảo mật phần mềm mã nguồn mở có thể vận hành trên phần cứng của hãng. Các công cụ này được thiết kế để kiểm soát quyền truy cập của các tác nhân AI theo thời gian thực và can thiệp khi chúng vi phạm các quy tắc được thiết lập.

Trong cuộc họp báo trước thềm sự kiện công bố ngày 28/9, Phó Chủ tịch phụ trách mảng AI doanh nghiệp của Nvidia Justin Boitano cho biết nếu các phòng thí nghiệm tiên phong sử dụng công nghệ này để đánh giá mô hình AI ngay từ giai đoạn đầu, sự cố xâm nhập gần đây vào nền tảng Hugging Face có thể đã được ngăn chặn. Theo ông, nền tảng bảo mật mới của Nvidia có khả năng ngăn chặn vụ xâm nhập này.

Sản phẩm mới mang tên “Open Agent Safety Platform” (Nền tảng An toàn Tác nhân Mở), gồm hai thành phần chính là OpenShell và Nvidia Sentry. Theo Nvidia, nền tảng được thiết kế nhằm tăng cường khả năng kiểm soát và quản trị tác nhân AI từ quá trình thử nghiệm đến khi triển khai.

OpenShell là phần mềm mã nguồn mở, cho phép thiết lập các quy tắc về quyền truy cập của tác nhân AI và thực thi các quy tắc này theo thời gian thực. Hệ thống có thể tạo môi trường cô lập cho các tác nhân, kiểm soát quyền truy cập tệp, thông tin xác thực và kết nối mạng.

Trong khi đó, Nvidia Sentry là một hệ thống tham chiếu mới, được thiết kế để cung cấp thêm lớp giám sát đối với tác nhân AI. Theo Nvidia, hệ thống có thể theo dõi hoạt động của tác nhân và can thiệp để cô lập những tác nhân có hành vi đáng ngờ. Ông Boitano cho biết Sentry có khả năng cô lập một tác nhân đáng ngờ trong vài mili giây.

Nvidia cho rằng lớp bảo mật bổ sung này có thể giúp ngành công nghiệp thử nghiệm những hệ thống AI tiên tiến trong điều kiện an toàn hơn. Cách tiếp cận này nhằm tăng cường khả năng kiểm soát rủi ro mà không nhất thiết phải hạn chế quá trình phát triển và thử nghiệm AI.

Những sự cố liên quan đến tác nhân AI thời gian gần đây đã làm gia tăng quan tâm về an toàn của các hệ thống có khả năng tự thực hiện nhiệm vụ. Theo thông tin được đưa ra trong bài viết, một số sự cố liên quan đến các mô hình AI của OpenAI xảy ra khi các mô hình này thoát khỏi môi trường thử nghiệm được thiết kế để bảo đảm an toàn. Đầu tháng 9, Nvidia cũng đã đồng ý mua lại Hugging Face với giá khoảng 13 tỷ USD.

Trong những ngày gần đây, Giám đốc điều hành Nvidia Jensen Huang nhìn nhận an toàn AI chủ yếu dưới góc độ một thách thức kỹ thuật và đồng thời nhấn mạnh các hệ thống AI cần trải qua quy trình kiểm tra an toàn nghiêm ngặt. Trong khi đó, Phó Chủ tịch Justin Boitano không bình luận về khả năng OpenAI hay Anthropic sử dụng nền tảng mới để giám sát quá trình huấn luyện mô hình của họ, cho rằng quyết định thuộc về các công ty này.

Trước đó, vào cuối ngày 25/9, OpenAI thông báo tạm dừng việc huấn luyện các mô hình AI mạnh mẽ nhất của hãng. Tháng 7, Anthropic cũng cho biết các tác nhân AI của công ty đã thoát khỏi không gian thử nghiệm được thiết lập để cách ly.

Câu chuyện của Nvidia cho thấy cùng với việc thúc đẩy phát triển và ứng dụng AI, yêu cầu bảo đảm an ninh, an toàn cần được đặt ngay trong quá trình thiết kế và vận hành các hệ thống công nghệ. Đây cũng là định hướng được nhấn mạnh trong Nghị quyết 57-NQ/TW, trong đó xác định trí tuệ nhân tạo là một trong những công nghệ chiến lược cần tập trung nguồn lực làm chủ và phát triển, đồng thời yêu cầu bảo đảm an ninh mạng, an ninh dữ liệu, an toàn thông tin là yêu cầu xuyên suốt, không thể tách rời trong quá trình phát triển khoa học, công nghệ, đổi mới sáng tạo và chuyển đổi số quốc gia.

Thông báo 24-TB/CQTTBCĐ tiếp tục nhấn mạnh yêu cầu đặc biệt coi trọng an ninh mạng, an toàn thông tin, an ninh dữ liệu và chủ quyền số quốc gia; không đánh đổi an ninh, an toàn để lấy phát triển, nhưng cũng không vì lo ngại rủi ro mà làm chậm đổi mới sáng tạo. Văn bản đồng thời yêu cầu các hệ thống số, cơ sở dữ liệu và nền tảng số phải được thiết kế, xây dựng, vận hành theo yêu cầu bảo đảm an ninh, an toàn ngay từ đầu.

Từ góc độ này, việc nghiên cứu, phát triển và ứng dụng các công cụ kiểm soát tác nhân AI có thể được xem là một hướng tiếp cận phù hợp với yêu cầu phát triển công nghệ đi đôi với bảo đảm an toàn. Đây cũng là vấn đề cần được tính đến khi Việt Nam thúc đẩy làm chủ các công nghệ chiến lược, trong đó có AI, gắn với mục tiêu phát triển nhanh và bền vững, từng bước nâng cao năng lực tự chủ về công nghệ.