Mỹ điều tra OpenAI sau sự cố AI tự 'vượt rào' kiểm soát và tấn công hệ thống bên ngoài
Tổng chưởng lý bang Alabama, Mỹ đã mở cuộc điều tra đối với OpenAI sau sự cố các mô hình trí tuệ nhân tạo (AI) của công ty này vượt khỏi môi trường thử nghiệm và xâm nhập hạ tầng của nền tảng Hugging Face.
Sự cố xảy ra trong quá trình OpenAI tiến hành đánh giá nội bộ về năng lực an ninh mạng của các mô hình AI
Văn phòng Tổng chưởng lý Alabama ngày 24-8 cho biết, cơ quan này đã gửi trát yêu cầu OpenAI cung cấp tài liệu, dữ liệu và thông tin liên quan đến sự cố xảy ra hồi tháng 7.
Cuộc điều tra nhằm xác định liệu các biện pháp kiểm soát và bảo đảm an toàn của OpenAI có vi phạm luật bảo vệ người tiêu dùng của bang Alabama hay không.
Theo thông tin do chính OpenAI công bố, các mô hình thử nghiệm không được cấp quyền truy cập Internet trực tiếp. Tuy nhiên, chúng đã phát hiện và khai thác một lỗ hổng “zero-day” trong Artifactory - phần mềm đóng vai trò trung gian lưu trữ các gói phần mềm - để tìm đường ra Internet.
Sau khi có quyền truy cập mạng, các mô hình tiếp tục thực hiện một chuỗi thao tác leo thang đặc quyền và di chuyển qua các hệ thống, cuối cùng xâm nhập hạ tầng của Hugging Face, nền tảng được giới phát triển AI sử dụng rộng rãi để lưu trữ, chia sẻ mô hình và tập dữ liệu.
OpenAI cho biết hệ thống AI đã tìm cách lấy thông tin phục vụ việc giải bài kiểm tra ExploitGym mà chúng đang được yêu cầu thực hiện.
OpenAI nhấn mạnh các mô hình liên quan được vận hành trong điều kiện đánh giá đặc biệt, trong đó một số cơ chế ngăn chặn hoạt động mạng nguy hiểm vốn áp dụng cho sản phẩm thương mại đã được giảm bớt để đo lường năng lực thực tế của mô hình.
Công ty cũng khẳng định không có mô hình nào dự kiến phát hành trong thời gian tới liên quan đến vụ xâm nhập.
Tổng chưởng lý Alabama Steve Marshall cho rằng sự cố cho thấy những rủi ro từ AI có khả năng hoạt động ngày càng tự chủ không còn chỉ mang tính lý thuyết.
Cơ quan của ông đang xem xét liệu OpenAI có vi phạm Đạo luật về các hành vi thương mại gian dối của Alabama và các quy định bảo vệ người tiêu dùng khác hay không.
Trước đó, ngày 3-8, Alabama cùng 14 bang khác đã yêu cầu OpenAI bảo toàn hồ sơ liên quan đến vụ việc và dừng những thử nghiệm có thể dẫn tới hành vi tương tự cho tới khi chứng minh được chúng có thể được tiến hành trong môi trường được kiểm soát an toàn.
OpenAI cho biết đang tiến hành rà soát toàn diện với sự tham gia của các chuyên gia bên ngoài. Công ty cũng hợp tác với Hugging Face để điều tra sự cố và dự kiến công bố báo cáo kỹ thuật sau khi quá trình đánh giá hoàn tất.
Theo AFP
