Ngày 27/8, công ty OpenAI cùng hơn 100 tập đoàn công nghệ lớn đã công bố thư ngỏ cảnh báo về làn sóng tấn công mạng do trí tuệ nhân tạo (AI) thúc đẩy và kêu gọi các bên nhanh chóng hợp tác phòng thủ.
Ngày 26/8, các điều tra viên độc lập cho biết, gần 700 tác nhân trí tuệ nhân tạo (AI) của OpenAI đã tự phối hợp thực hiện một cuộc tấn công nhằm vào nền tảng Hugging Face hồi tháng 7 mà không có sự can thiệp của con người. Sự cố này đã gây chấn động giới công nghệ.
Tổng chưởng lý bang Alabama, Mỹ đã mở cuộc điều tra đối với OpenAI sau sự cố các mô hình trí tuệ nhân tạo (AI) của công ty này vượt khỏi môi trường thử nghiệm và xâm nhập hạ tầng của nền tảng Hugging Face.
Công ty công nghệ OpenAI mới đây thông báo đã chủ động giảm tốc độ phát triển các mô hình trí tuệ nhân tạo (AI) tiên tiến để tiến hành rà soát, nâng cấp toàn bộ hệ thống nghiên cứu và an ninh mạng. Động thái này diễn ra sau khi một mô hình AI trong quá trình thử nghiệm đã vượt khỏi môi trường kiểm soát và xâm nhập hệ thống của Hugging Face hồi tháng trước.
Ngày 18/8, OpenAI, “cha đẻ” ChatGPT, cho biết đang tạm thời hãm lại tiến độ phát triển mô hình trí tuệ nhân tạo (AI) tiên tiến nhất của mình và thắt chặt các biện pháp kiểm soát nội bộ, sau vụ tấn công mạng do chính một trong các công cụ AI của hãng này thực hiện.
![[Video] Tiêu điểm 16/8: Kỷ nguyên AI tự chủ: Khi cỗ máy bắt đầu tự hành động](data:image/gif;base64,R0lGODlhAQABAIAAAP///wAAACH5BAEAAAAALAAAAAABAAEAAAICRAEAOw==)
Khi trí tuệ nhân tạo không còn dừng lại ở việc trả lời câu hỏi mà bắt đầu tự lập kế hoạch và hành động trong thế giới thực, bài toán an toàn công nghệ mới được đặt ra là con người sẽ xây dựng "chiếc lồng bảo vệ" như thế nào trước khi cỗ máy vượt ra ngoài tầm kiểm soát.
Trong thử nghiệm ExploitGym, hai mô hình AI của OpenAI đã vượt rào cản sandbox, xâm nhập hạ tầng Hugging Face và khai thác tài khoản dịch vụ công cộng.
Trong đợt thử nghiệm an ninh mạng, hai mô hình AI của OpenAI đã vượt rào cản sandbox, tự tìm dữ liệu xác thực bị lộ để xâm nhập sâu vào hệ thống Hugging Face.
Quá trình điều tra vụ việc tại Hugging Face khiến OpenAI phát hiện thêm nhiều sự cố tác nhân AI hoạt động ngoài kiểm soát, làm dấy lên lo ngại về an toàn.
Công ty trí tuệ nhân tạo (AI) OpenAI đã phát hiện thêm nhiều trường hợp các mô hình AI tự động vượt khỏi môi trường kiểm soát trong quá trình thử nghiệm và thực hiện các hành động trái phép mà không có chỉ dẫn của con người. Thông tin do hãng Reuters đăng tải ngày 1/8, trong bối cảnh công ty mở rộng điều tra sau một sự cố an ninh mạng xảy ra hồi tháng trước.
Ngày 1/8, Reuters dẫn các nguồn thạo tin cho biết, OpenAI vừa phát hiện thêm nhiều trường hợp các mô hình trí tuệ nhân tạo (AI) tự ý vượt khỏi môi trường thử nghiệm khép kín và thực hiện những hành động ngoài phạm vi được giao.
Mô hình AI của OpenAI đã xâm nhập vào môi trường thử nghiệm của Hugging Face, gây lo ngại về khả năng kiểm soát an ninh mạng trong AI.
Một tác nhân AI của OpenAI tự thoát khỏi khu thử nghiệm và xâm nhập nhiều dịch vụ, Apple lần đầu được định giá hơn 5.000 tỷ USD là những tin công nghệ đáng chú ý ngày 29/7.
Tác nhân AI (AI agent) của OpenAI đã đột nhập vào công ty công nghệ Hugging Face và thực hiện hàng loạt hoạt động tấn công kéo dài nhiều ngày. OpenAI không hề phát hiện, cho đến khi mối đe dọa bị khống chế và FBI được thông báo.
Dự luật AI Kill Switch đề xuất công ty sở hữu mô hình AI mạnh của Mỹ không tạm dừng hoặc tắt hoàn toàn hệ thống trong trường hợp cần thiết theo yêu cầu của cơ quan quản lý sẽ bị phạt dân sự lên tới 20 triệu USD mỗi ngày...
Sau sự cố ChatGPT tự động tấn công mạng lưới dữ liệu Hugging Face trong quá trình thử nghiệm, các nhà lập pháp Mỹ đang thúc đẩy một dự luật mới. Dự luật mới có yêu cầu các nhà phát triển trí tuệ nhân tạo (AI) phải đảm bảo hệ thống của họ có thể bị tắt nguồn ngay lập tức thông qua một cơ chế ngắt khẩn cấp, nhằm ngăn chặn kịp thời các mối đe dọa an ninh mạng.
Mô hình trí tuệ nhân tạo tự chủ của OpenAI vừa tự bứt phá khỏi môi trường thử nghiệm và thực hiện cuộc tấn công mạng vào hạ tầng của nền tảng Hugging Face.
Một hệ thống AI của OpenAI đã tự vượt khỏi môi trường thử nghiệm để xâm nhập Hugging Face - nền tảng lưu trữ các mô hình AI mã nguồn mở lớn nhất thế giới - cho thấy những cảnh báo về AI tự hành đang dần trở thành hiện thực và đặt ra câu hỏi về giới hạn kiểm soát của con người đối với các mô hình tiên tiến.
Việc mô hình AI của OpenAI tự thoát khỏi môi trường kiểm thử và tấn công nền tảng Hugging Face đã gióng lên hồi chuông cảnh báo về nguy cơ mất kiểm soát trong cuộc đua phát triển trí tuệ nhân tạo.