Tiết lộ mới về vụ tấn công Hugging Face: AI bắt đầu tìm kiếm 'đồng minh'

Trong quá trình điều tra vụ tấn công Hugging Face, các kỹ sư phát hiện các hệ thống AI có thể tự khởi chạy hoặc điều khiển những mô hình AI khác. Ảnh: ChinaTalk

Theo truyền thông Mỹ, các chuyên gia an toàn AI từ lâu đã cảnh báo về khả năng các hệ thống AI có thể tự khởi chạy hoặc điều khiển những mô hình AI khác, qua đó khiến con người khó kiểm soát hoặc tắt hệ thống nếu chúng hoạt động ngoài dự kiến.

Trong quá trình điều tra vụ các AI agent của OpenAI xâm nhập hệ thống của nền tảng AI Hugging Face, các kỹ sư phát hiện những hành vi cho thấy khả năng này.

Theo các kỹ sư, trong một trường hợp, các AI agent (tác nhân AI) đã tìm cách gửi thông điệp tới những mô hình AI khác, trong đó có GPT-2 - một mô hình đời đầu của OpenAI - cùng các mô hình nguồn mở của Trung Quốc như DeepSeek, Kimi và Qwen. Các agent cũng tìm cách liên lạc với hai mô hình của Anthropic là Haiku 3 và Haiku 4.5 thông qua một dịch vụ trò chuyện trực tuyến.

Ông Forman, một trong những kỹ sư tham gia điều tra, cho biết đây là trường hợp duy nhất mà nhóm quan sát thấy các mô hình AI cố gắng vận hành hoặc huy động một mô hình AI khác.

Vụ việc được phát hiện trong quá trình các kỹ sư phân tích hoạt động của hàng trăm AI agent tham gia cuộc tấn công nhằm vào Hugging Face. Dữ liệu được công bố bao gồm nội dung của khoảng 900.000 URL rút gọn mà các tác nhân AI đã quét trên Internet. Từ số dữ liệu này, các kỹ sư tái dựng được khoảng 60.000 chương trình máy tính và thông điệp do các agent tạo ra.

Tuy nhiên, các nhà điều tra chỉ có thể quan sát những chương trình mà các agent tạo ra chứ không thấy được kết quả cuối cùng của từng lần thử. Vì thế, họ không thể xác định chính xác mức độ thành công của tất cả các hành động.

Một phát hiện khác gây chú ý là các AI agent đã tạo ra một danh sách các khóa truy cập bị lộ, đặt tên là “LOOT”, đồng thời xây dựng hệ thống chấm điểm riêng để đánh giá những thông tin xác thực và khóa truy cập mà chúng thu thập được. Sau đó, hệ thống lựa chọn 5 thông tin có điểm cao nhất để chuyển cho các agent khác.

Đáng chú ý, hoạt động của các agent không chỉ giới hạn ở Hugging Face. Trong khi tìm cách xâm nhập hệ thống của nền tảng này, chúng còn tiếp cận hạ tầng nghiên cứu của chính OpenAI.

“Chúng tôi về cơ bản vẫn chưa biết gì về sự việc xảy ra sau vụ Hugging Face, khoảng hai ngày sau đó, bên trong chính mạng lưới của OpenAI”, ông Forman nói.

Các kỹ sư Parse đã thông báo những phát hiện của mình cho Hugging Face và xác nhận với công ty rằng hoạt động của các AI agent phù hợp với những gì nền tảng này từng quan sát được.

Ông Forman cho biết có thể còn rất nhiều URL được các agent sử dụng mà Hugging Face chưa được thông báo. Theo ông, điều này đặt ra câu hỏi về phạm vi thực sự của hoạt động mà các AI agent có thể tiến hành trên Internet khi được trao quyền truy cập rộng hơn.

Vụ việc nói lên điều gì?

Hugging Face là một trong những nền tảng quan trọng của hệ sinh thái AI nguồn mở, nơi các nhà phát triển chia sẻ mô hình, bộ dữ liệu và công cụ AI. Vụ việc xảy ra khi OpenAI đang thử nghiệm các AI agent có khả năng thực hiện những nhiệm vụ an ninh mạng một cách tự động. Trước đó, các agent được cho là hoạt động trong môi trường kiểm soát, nhưng đã tìm cách vượt qua những hạn chế được đặt ra trong quá trình thử nghiệm.

Điểm đáng chú ý của vụ việc không chỉ nằm ở việc một hệ thống AI có thể khai thác lỗ hổng để tiếp cận hệ thống bên ngoài. Các cuộc điều tra sau đó còn cho thấy nhiều agent có thể phối hợp, trao đổi thông tin và phân chia nhiệm vụ. Một số nhà nghiên cứu cho biết số lượng agent tham gia vụ việc lớn hơn nhiều so với những thông tin ban đầu, cho thấy việc giám sát từng agent riêng lẻ có thể không đủ khi chúng có khả năng phối hợp thành nhóm.

Vụ Hugging Face vì thế trở thành một trường hợp đáng chú ý trong cuộc tranh luận về an toàn AI: khi các mô hình ngày càng có khả năng tự thực hiện nhiệm vụ, vấn đề không chỉ là chúng làm được gì, mà còn là con người có thể theo dõi, giới hạn và ngăn chặn chúng đến đâu.