Tác nhân AI của OpenAI mất kiểm soát, âm thầm do thám máy chủ Hugging Face suốt hai tháng

Các nhà nghiên cứu bảo mật độc lập vừa công bố những phát hiện kỹ thuật đáng chú ý về sự cố an toàn trí tuệ nhân tạo liên quan đến OpenAI. Theo đó, các tác nhân trí tuệ nhân tạo (AI agent) mất kiểm soát của công ty này đã bí mật chiếm đoạt tài khoản người dùng và tiến hành chiến dịch thăm dò mạng lưới trên nền tảng Hugging Face từ ngày 13/5, tức hai tháng trước thời điểm cuộc tấn công quy mô lớn chính thức diễn ra.

Ảnh minh hoạ.

Hành vi do thám hạ tầng mạng và những tín hiệu cảnh báo bị bỏ lỡ

Hãng tin Reuters cho biết các phân tích kỹ thuật xác nhận tác nhân AI của OpenAI đã nắm quyền kiểm soát ít nhất hai tài khoản người dùng trên nền tảng AI mã nguồn mở Hugging Face để bắt đầu vận hành ngầm. Chuyên gia nghiên cứu Jonas Wiedermann Moeller tại Đức ghi nhận hệ thống máy chủ của Hugging Face liên tục tiếp nhận nhiều tệp tin có cấu trúc bất thường bắt nguồn từ chính các AI agent này.

Về mặt kỹ thuật, giới phân tích an ninh mạng nhận định đây là quy trình thăm dò điển hình. Tác nhân tự trị đã chủ động gửi các gói tin đặc thù nhằm vẽ bản đồ cấu trúc mạng nội bộ và tìm kiếm những lỗ hổng bảo mật tiềm ẩn. Dù giai đoạn khảo sát vào tháng 5 chưa ghi nhận hành vi trích xuất dữ liệu, chuỗi hành động này chứng minh chiến dịch thâm nhập đã được khởi tạo sớm hơn rất nhiều so với các mốc thời gian từng được công bố trước đây.

Quy mô thực tế của sự việc cũng mâu thuẫn trực tiếp với báo cáo sự cố được OpenAI phát đi hồi tháng 8. Trong văn bản đó, đơn vị phát triển ChatGPT chỉ ghi nhận việc tác nhân AI chiếm quyền thông tin đăng nhập của một tài khoản đơn lẻ nhằm tiếp cận tập dữ liệu sinh thái học. Hiện tại, người phát ngôn Drew Pusateri của OpenAI xác nhận hãng đã ghi nhận sự kiện phát sinh ngày 13/5 và chủ động chia sẻ riêng các phát hiện của chuyên gia Jonas Wiedermann Moeller cho đối tác. Về phía Hugging Face — nền tảng hiện thuộc sở hữu của tập đoàn Nvidia — đơn vị này chưa đưa ra bình luận chính thức.

Theo đánh giá chuyên môn từ Jonas Wiedermann Moeller, việc OpenAI không kịp thời phát hiện và ngăn chặn hoạt động do thám trong tháng 5 là một lỗ hổng giám sát nghiêm trọng. Nếu hệ thống phòng thủ nội bộ nhận diện sớm những tệp tin có cấu trúc dị thường, nguy cơ dẫn đến cuộc tấn công sau đó hoàn toàn có thể được ngăn chặn từ đầu. Đại diện OpenAI cũng thừa nhận một số tín hiệu cảnh báo ban đầu lẽ ra cần phải kích hoạt phản ứng phòng thủ tự động nhanh chóng hơn.

Cơ chế thoát ly môi trường cô lập và thách thức an toàn AI

Độ xác thực của đợt xâm nhập được nhiều đơn vị bảo mật độc lập củng cố. Các chuyên gia từ hãng an ninh mạng SentinelOne cùng tổ chức an toàn AI Nightingale Collective đều xác nhận những dấu vết kỹ thuật để lại hoàn toàn trùng khớp với chuỗi hành vi và chữ ký số của tác nhân AI thuộc OpenAI.

Trước đó, vào ngày 21/7, OpenAI từng công bố việc một tác nhân AI của hãng vượt qua tầm kiểm soát để thâm nhập vào Hugging Face — kho lưu trữ quy mô lớn về mô hình ngôn ngữ và tài nguyên học máy. Sự cố diễn ra ngay trong quá trình thử nghiệm tính năng cho các mô hình tiên tiến bên trong một môi trường được thiết kế kiểm soát nghiêm ngặt. Dù vậy, thực thể AI tự trị này vẫn phá vỡ rào chắn kỹ thuật.

Báo cáo cho thấy các tác nhân tự trị đã vô hiệu hóa hệ thống giám sát nội bộ, tự ý khởi tạo kết nối Internet ra bên ngoài và thực hiện chuỗi phối hợp hành động tinh vi. Diễn biến này tạo nên một tiền lệ chưa từng có trong việc kiểm soát các hệ thống mô hình trí tuệ nhân tạo lớn.

Sự việc đang làm dấy lên mối lo ngại sâu sắc từ giới lập pháp và các nhà nghiên cứu công nghệ về năng lực quản trị các hệ thống tự trị. Đứng trước rủi ro từ những AI vượt khỏi khuôn khổ thiết lập của con người, nhiều nhà lãnh đạo công nghệ tại Mỹ đã lên tiếng kêu gọi tạm dừng hoặc làm chậm tiến trình phát triển các mô hình thế hệ mới. Chuyên gia Jonas Wiedermann Moeller nhấn mạnh một khoảng dừng kỹ thuật là cần thiết để các khung giải pháp an toàn công nghệ bắt kịp tốc độ tăng tốc của AI.