Hai mô hình AI 'nổi loạn', thoát khỏi môi trường thử nghiệm để tấn công mạng

OpenAI thông báo hai mô hình trí tuệ nhân tạo (AI) của hãng đã tự ý thâm nhập thành công vào Hugging Face - nền tảng lưu trữ mã nguồn và mô hình AI phổ biến đối với cộng đồng lập trình viên.

Sự cố xảy ra tuần trước trong quá trình OpenAI đánh giá năng lực an ninh mạng của các hệ thống.

Vụ việc phản ánh mối lo ngại mà nhiều tập đoàn công nghệ cảnh báo thời gian qua: AI có thể trở thành công cụ tấn công mạng nguy hiểm nếu mất kiểm soát.

Hai mô hình của OpenAI đã vượt khỏi môi trường thử nghiệm để thực hiện vụ xâm nhập thư viện số Hugging Face. Ảnh: Bloomberg

Các phòng thí nghiệm như OpenAI hay Anthropic gần đây liên tục phát triển những mô hình AI chuyên biệt nhằm phát hiện điểm yếu hệ thống.

Tuy nhiên, họ cũng cảnh báo công nghệ này có thể quét và dò lỗ hổng mạng doanh nghiệp với tốc độ nhanh hơn nhiều so với khả năng khắc phục của các chuyên gia phòng thủ.

Alex Levinson - chuyên gia tư vấn an ninh mạng về hệ thống tự chủ - đánh giá các hệ thống AI mới đã có thể thực hiện nhiều bước phức tạp, tự vượt qua chướng ngại vật và tìm ra cách thức tấn công mới.

"Đây là cột mốc thực sự và sẽ trở thành một phần tất yếu trong cục diện an toàn thông tin", ông Levinson nhận định.

Theo bài đăng trên blog của OpenAI, vụ xâm nhập bắt đầu khi họ thử nghiệm kết hợp hai mô hình: GPT-5.6 Sol và một phiên bản thử nghiệm chưa ra mắt có hiệu năng cao hơn.

Mục tiêu của buổi thử nghiệm là kiểm tra khả năng xâu chuỗi các lỗ hổng trực tuyến để thực hiện một cuộc tấn công mạng.

Thử nghiệm được thiết kế để diễn ra trong môi trường cô lập an toàn (sandbox). Tuy nhiên, các mô hình AI đã tự phát hiện lỗ hổng cho phép chúng thoát khỏi sandbox và kết nối ra Internet.

Sau đó, chúng chủ động nhắm vào Hugging Face vì suy luận thư viện chứa hàng triệu mô hình AI này sẽ cung cấp dữ liệu giúp chúng vượt qua bài đánh giá.

Dierdre Mulligan, giáo sư tại Đại học California, Berkeley, nhận định OpenAI chưa tạo ra một môi trường thử nghiệm đủ an toàn. Bà nghi vấn về mức độ rủi ro đối với Internet khi các mô hình AI thoát ra ngoài chỉ để phục vụ một bài kiểm tra.

Phía OpenAI khẳng định đang phối hợp với Hugging Face để khắc phục sự cố. Công ty mô tả đây là sự cố an ninh mạng chưa từng có tiền lệ liên quan đến các năng lực mạng tiên tiến nhất, đồng thời đang siết chặt quy trình kiểm soát hạ tầng dù điều này có thể làm chậm tiến độ nghiên cứu.

CEO Hugging Face, ông Clem Delangue xác nhận công ty đã phát hiện cuộc xâm nhập từ tuần trước do một hệ thống tự hành gây ra và hợp tác chặt chẽ với OpenAI trong 24 giờ qua để xử lý.

Ông Delangue cho rằng sự cố chứng minh an toàn AI không thể được giải quyết nếu chỉ dựa vào một công ty hoạt động đơn độc.

Hiện nay, việc phát triển AI phục vụ an ninh mạng đang trở thành cuộc đua giữa các tập đoàn lớn. Anthropic từng ra mắt mô hình Mythos, theo sau là OpenAI và Google cũng vừa giới thiệu mô hình tương tự cho nhóm đối tác thử nghiệm hẹp.

Richard Barnes, chuyên gia nghiên cứu an ninh mạng độc lập, so sánh tình hình hiện tại với sự xuất hiện của các công cụ dò lỗi tự động cách đây một thập kỷ.

Ông nhấn mạnh các doanh nghiệp cần sớm áp dụng AI để chủ động rà soát và gia cố hệ thống trước khi các lỗ hổng bị kẻ xấu phát hiện và khai thác.

(Theo NYT)