Nvidia ra mắt nền tảng ngăn AI 'nổi loạn'

Tập đoàn chip Nvidia của Mỹ. Ảnh: NHK

Động thái này diễn ra trong bối cảnh ngày càng có nhiều lời kêu gọi tăng cường an toàn AI và làm chậm tốc độ phát triển công nghệ này. Trong một số vụ việc gần đây, các tác nhân AI đã vượt qua biện pháp bảo mật và truy cập trái phép vào hệ thống bên ngoài.

Theo Nvidia, nền tảng mang tên Open Agent Safety Platform đặt ra các giới hạn đối với những gì AI có thể truy cập. Hệ thống cũng theo dõi hành vi của AI và dừng hoạt động nếu phát hiện dấu hiệu đáng ngờ.

Giám đốc điều hành Jensen Huang nói rằng tiềm năng to lớn của AI đối với xã hội chỉ có thể trở thành hiện thực nếu giải quyết được vấn đề an toàn AI.

Trong một diễn biến khác, Nvidia thông báo tăng quy mô chương trình mua lại cổ phiếu thêm 150 tỷ USD, lên thành 235 tỷ USD. Truyền thông Mỹ cho biết đây là mức tăng kỷ lục đối với một doanh nghiệp nước này.

Theo NHK