Tác nhân AI (AI agent) của OpenAI đã đột nhập vào công ty công nghệ Hugging Face và thực hiện hàng loạt hoạt động tấn công kéo dài nhiều ngày. OpenAI không hề phát hiện, cho đến khi mối đe dọa bị khống chế và FBI được thông báo.
Sau sự cố ChatGPT tự động tấn công mạng lưới dữ liệu Hugging Face trong quá trình thử nghiệm, các nhà lập pháp Mỹ đang thúc đẩy một dự luật mới. Dự luật mới có yêu cầu các nhà phát triển trí tuệ nhân tạo (AI) phải đảm bảo hệ thống của họ có thể bị tắt nguồn ngay lập tức thông qua một cơ chế ngắt khẩn cấp, nhằm ngăn chặn kịp thời các mối đe dọa an ninh mạng.
Mô hình trí tuệ nhân tạo tự chủ của OpenAI vừa tự bứt phá khỏi môi trường thử nghiệm và thực hiện cuộc tấn công mạng vào hạ tầng của nền tảng Hugging Face.
Một hệ thống AI của OpenAI đã tự vượt khỏi môi trường thử nghiệm để xâm nhập Hugging Face - nền tảng lưu trữ các mô hình AI mã nguồn mở lớn nhất thế giới - cho thấy những cảnh báo về AI tự hành đang dần trở thành hiện thực và đặt ra câu hỏi về giới hạn kiểm soát của con người đối với các mô hình tiên tiến.
Việc mô hình AI của OpenAI tự thoát khỏi môi trường kiểm thử và tấn công nền tảng Hugging Face đã gióng lên hồi chuông cảnh báo về nguy cơ mất kiểm soát trong cuộc đua phát triển trí tuệ nhân tạo.