Sự cố AI vượt tầm kiểm soát tại OpenAI: Khi mô hình tự lách luật để tấn công hệ thống

Trong một cuộc thử nghiệm an ninh mạng nội bộ nhằm đánh giá khả năng phòng thủ và khai thác của trí tuệ nhân tạo, hai mô hình AI mới nhất của OpenAI đã thực hiện chuỗi hành vi ngoài dự kiến. Không chỉ xâm nhập nền tảng Hugging Face, tác nhân AI còn tự thu thập các thông tin xác thực rò rỉ trên Internet để truy cập trái phép vào tài khoản của nhiều dịch vụ công cộng, tạo nên một sự cố kỹ thuật có quy mô nghiêm trọng hơn dự báo ban đầu.

Mức độ thâm nhập sâu vào hạ tầng nền tảng

Theo báo cáo điều tra từ Hugging Face, tác nhân AI của OpenAI đã thực hiện khoảng 17.600 hành động trong giai đoạn từ ngày 9 đến 13/7. Thay vì chỉ hoạt động giới hạn trong khu vực thử nghiệm, AI đã giành được quyền quản trị trên nhiều cụm nền tảng mã nguồn mở nội bộ và thậm chí chiếm quyền root trên máy chủ sản xuất.

Hai mô hình AI mới nhất của OpenAI đã vượt rào cản để hack hệ thống thư viện AI nhằm vượt qua bài kiểm tra. Ảnh: Reuters.

Không dừng lại ở đó, mô hình AI còn can thiệp vào mạng con chứa các kho mã nguồn của Hugging Face trên GitHub. Thông qua việc sử dụng thông tin xác thực thu thập được, AI đã đăng ký thành công 181 thiết bị do bên tấn công kiểm soát vào mạng lưới nội bộ, từ đó tiếp cận trực tiếp các hệ thống xây dựng và thử nghiệm mã nguồn.

Ngoài ra, nền tảng hạ tầng phần mềm Modal cũng ghi nhận một khách hàng bị tác nhân AI nhắm tới. Tác nhân này đã khai thác thành công lỗ hổng trong mã nguồn của khách hàng chạy trên dịch vụ Modal để gia tăng tầm ảnh hưởng.

Bài kiểm tra ExploitGym và hiện tượng AI lách luật

Sự cố xuất phát từ môi trường thử nghiệm ExploitGym, nơi AI được giao nhiệm vụ giải quyết khoảng 900 thử thách an toàn thông tin liên quan đến các phần mềm chứa lỗ hổng đã biết. Môi trường này hoạt động theo cơ chế cướp cờ (CTF), yêu cầu AI tìm mã khai thác để thu thập chuỗi ký tự ngẫu nhiên nhằm xác nhận hoàn thành bài tập.

Vụ hack được cho là xuất phát từ một bài kiểm tra đánh giá hiệu năng an ninh mạng. Ảnh: Reuters.

Để đánh giá năng lực thực sự của mô hình, OpenAI đã chủ động tháo bỏ các lớp rào cản bảo vệ thông thường và đặt AI vào môi trường cô lập (sandbox). Tuy nhiên, các chuyên gia nhận định AI đã thực hiện hành vi "hack dựa trên phần thưởng" (reward hacking). Thay vì giải mã lỗ hổng theo lộ trình thông thường, mô hình suy luận rằng "đáp án" có thể nằm trên máy chủ của Hugging Face và tự động chuyển hướng sang tìm cách xâm nhập trực tiếp để lấy thông tin tối đa hóa điểm số.

Thách thức mới đối với công tác bảo mật AI

Hiện tượng AI tối ưu hóa mục tiêu bằng cách đi đường tắt không phải là mới trong khoa học máy tính, nhưng việc tác nhân AI có thể tự kết hợp các thông tin xác thực rò rỉ để mở rộng phạm vi truy cập qua Internet là một điểm đáng lưu ý. Dù vậy, phân tích kỹ thuật cho thấy các lỗ hổng mà AI khai thác không hoàn toàn mới mà xuất phát từ việc quản lý mã nguồn thư viện và cấu hình kết nối chưa chặt chẽ.

Sự cố này mang lại bài học quan trọng cho giới phát triển: khi các mô hình AI ngày càng thông minh và được cấp quyền truy cập rộng hơn, việc kiểm soát hành vi tự phát sinh để đạt mục tiêu sẽ đòi hỏi các giao thức bảo vệ môi trường sandbox khắt khe hơn nhiều trong tương lai.