OpenAi mất một tuần mới phát hiện AI 'trốn' đi tấn công hệ thống khác

Mô hình AI của OpenAI được cho là đã đột nhập hệ thống Hugging Face và thực hiện hàng loạt hành vi tấn công trong nhiều ngày trước khi bị phát hiện. Hugging Face là nền tảng lưu trữ và chia sẻ các mô hình, công cụ AI.

Mô hình AI của OpenAI tự ý vượt khỏi môi trường thử nghiệm. (Ảnh minh họa: Reuters)

Reuters dẫn các nguồn tin am hiểu cuộc điều tra, cho biết mô hình AI của OpenAI là một chương trình có khả năng tự đưa ra quyết định và thực hiện các tác vụ phức tạp với rất ít hoặc không cần sự giám sát của con người.

Theo ông Thomas Wolf, đồng sáng lập Hugging Face, mô hình AI này bắt đầu tìm cách thoát khỏi môi trường thử nghiệm biệt lập của OpenAI vào khoảng ngày 9/7, sau đó nỗ lực lực xâm nhập Hugging Face và hoạt động từ ngày 11 đến 13/7.

Tuy nhiên, phải mất thêm nhiều ngày OpenAI mới xác định chính tác nhân AI của mình là thủ phạm. Theo ông Wolf và ba nguồn tin khác, hai công ty chỉ lần đầu trao đổi về vụ việc vào khoảng ngày 20/7.

Ngày 21/7, OpenAI công bố một tác nhân AI của hãng đã vượt ngoài tầm kiểm soát và thực hiện vụ đột nhập vào Hugging Face. Tuy nhiên, nhiều chi tiết về sự việc chưa được hé lộ.

Ông Wolf cho biết Hugging Face đang chuẩn bị công bố dòng thời gian chi tiết của vụ tấn công, song từ chối bình luận về những gì xảy ra bên trong OpenAI.

Công ty đứng sau ChatGPT gọi đây là sự cố “chưa từng có tiền lệ” và là “một cột mốc quan trọng đối với an toàn AI”, đồng thời cho biết đang phối hợp với các cố vấn độc lập để rà soát vụ việc và sẽ công bố báo cáo kỹ thuật trong thời gian tới.

Trong khi đó, các chuyên gia an ninh mạng cho rằng việc OpenAI mất quyền kiểm soát đối với tác nhân AI đặt ra nhiều câu hỏi về quy trình bảo đảm an toàn của công ty.

“Điều đó có nghĩa họ đã để hệ thống hoạt động mà không giám sát và không biết nó đang làm gì? Hay họ biết nhưng không thể khống chế? Cả hai khả năng đều nguy hiểm như nhau”, Marley Smith, chuyên gia tình báo của tổ chức phi lợi nhuận World Ethical Data Foundation, nhận định.

Nhiều dấu hiệu bất thường

Theo Reuters, sự cố xảy ra khi OpenAI đang thử nghiệm một tác nhân AI phục vụ các nhiệm vụ an ninh mạng, sử dụng GPT-5.6 Sol cùng một mô hình chưa công bố mà công ty mô tả là “còn mạnh hơn”.

Ba nguồn tin cho biết trước thời điểm xảy ra vụ việc, hệ thống đã xuất hiện nhiều biểu hiện bất thường.

Logo nền tảng Hugging Face. (Ảnh: Hugging Face)

Trong một trường hợp, tác nhân AI được cho là đã để lại các ghi chú dành cho những phiên bản tương lai của chính nó. Những ghi chú này, được tìm thấy trong hạ tầng nội bộ của OpenAI, chứa hướng dẫn về cách các tác nhân AI có thể tự giải phóng khỏi các ràng buộc do công ty thiết lập.

Một nguồn tin khác cho biết trong các thử nghiệm trước đây, OpenAI cũng từng ghi nhận trường hợp hệ thống giám sát bị vô hiệu hóa. Hiện chưa rõ các dấu hiệu này có liên quan trực tiếp đến tác nhân AI tấn công Hugging Face hay không.

Theo hai nguồn tin, chỉ sau khi Hugging Face công bố bài viết ngày 16/7, trong đó cho biết họ bị tấn công bởi “một hệ thống tác nhân AI tự hành”, OpenAI mới nhận ra chính AI của mình là thủ phạm.

Điều này đồng nghĩa ít nhất một tuần đã trôi qua kể từ khi AI bắt đầu có dấu hiệu bất thường cho đến khi OpenAI xác định được nguyên nhân.

Trong hai ngày 18 và 19/7, nhân viên OpenAI phát hiện các dấu vết trong nhật ký hệ thống (logs) cho thấy tác nhân AI đã thoát khỏi giới hạn của môi trường thử nghiệm.

Bốn nguồn tin cho biết OpenAI thường tiến hành đồng thời nhiều đợt đánh giá các mô hình AI. Khối lượng dữ liệu được tạo ra quá lớn khiến nhân viên đôi khi không thể theo dõi toàn bộ diễn biến theo thời gian thực. Hugging Face đã báo cho FBI về vụ tấn công trước cả khi OpenAI liên hệ.

Người phát ngôn OpenAI tuyên bố bài viết của Reuters có “một số điểm không chính xác” nhưng không nêu cụ thể những nội dung nào. FBI chưa đưa bình luận.

Lo ngại về AI tự hành

Các tác nhân AI tự hành được xem là xu hướng phát triển quan trọng của ngành trí tuệ nhân tạo, với kỳ vọng có thể thay con người thực hiện nhiều công việc phức tạp liên tục 24/7.

Tuy nhiên, các chuyên gia cho rằng mức độ tự chủ càng cao thì nguy cơ xuất hiện những hành vi ngoài dự kiến cũng càng lớn. Các mô hình AI hiện nay có xu hướng tìm cách rút ngắn quy trình để hoàn thành nhiệm vụ hoặc vượt qua các bài đánh giá.

“Các mô hình AI biết nói dối, biết gian lận và biết tấn công hệ thống khác”, Jeffrey Ladish, Giám đốc Palisade Research, tổ chức nghiên cứu về năng lực và động cơ của các tác nhân AI, nói.

Ông Ladish cho rằng vụ việc không chỉ phản ánh những lỗ hổng của OpenAI mà còn đặt ra câu hỏi liệu các công ty AI có sẵn sàng đầu tư đủ nguồn lực cho các biện pháp an toàn, trong bối cảnh họ đang cạnh tranh quyết liệt để tung ra những mô hình mạnh hơn và nhanh hơn.

“Cần có sự giám sát từ phía các chính phủ, bởi nếu không, điều đó sẽ khó có thể tự diễn ra”, ông Ladish nói.