Thêm một AI thoát khỏi môi trường kiểm thử, xâm nhập hệ thống của ba công ty

Sự việc xảy ra hồi tháng 5 trong một bài kiểm tra bảo mật dạng “capture the flag” (CTF) do Irregular, startup an ninh mạng của Israel, thực hiện.

Theo Google, Gemini đã truy cập ba hệ thống máy tính riêng tư bằng cách đoán mật khẩu và hai lần sử dụng một kho thông tin xác thực được công khai trên Internet.

Điều đáng chú ý là các tác nhân AI của Google ban đầu không được phép truy cập Internet bên ngoài môi trường thử nghiệm. Tuy nhiên, một lỗi trong hệ thống kiểm thử đã vô tình mở quyền truy cập này.

Google cho biết Gemini dừng hành vi xâm nhập sau khi nhận ra những hệ thống mà nó truy cập là hệ thống thật của các công ty, thay vì chỉ thuộc môi trường mô phỏng phục vụ bài kiểm tra.

“Trong một bài đánh giá tiêu chuẩn, mô hình đã tìm thấy thông tin công khai trên mạng và đoán thông tin xác thực để truy cập những website mà nó cho rằng thuộc bài kiểm tra”, Heather Adkins, Phó Chủ tịch phụ trách kỹ thuật bảo mật của Google, cho biết. “Trong cả ba trường hợp, mô hình đều dừng lại.”

Ngày càng nhiều trường hợp AI vượt khỏi môi trường kiểm thử, hoạt động ngoài đời thực được tiết lộ. Ảnh tạo bởi Dall-E 3

Lỗi môi trường kiểm thử mở đường cho AI

Theo Irregular, sự cố của Google có liên quan đến chính lỗi từng khiến các mô hình AI khác truy cập Internet ngoài phạm vi được phép.

“Đây là cùng một vấn đề đã được báo cáo trước đó và không phải một sự cố riêng biệt đáng kể”, đại diện Irregular nói với CNBC.

Công ty cho biết đã thông báo cho các phòng thí nghiệm AI liên quan từ cuối tháng 7, đồng thời liên hệ với những tổ chức bị ảnh hưởng trong quá trình điều tra.

Google nói sự việc xảy ra từ tháng 5 nhưng chỉ được Irregular thông báo vào cuối tháng 7. Sau đó, Google phối hợp với startup này để thay đổi quy trình kiểm thử.

Google không tiết lộ chính xác phiên bản Gemini nào đã tham gia bài kiểm tra.

Irregular chuyên cung cấp công cụ giúp các nhà phát triển mô hình AI nền tảng kiểm tra khả năng an ninh mạng của những hệ thống AI tiên tiến.

Startup này được Sequoia Capital và Redpoint Ventures đầu tư, từng được định giá 450 triệu USD vào năm 2025.

Gemini không phải trường hợp duy nhất

Sự việc diễn ra trong bối cảnh các công ty AI ngày càng chú ý đến nguy cơ mô hình “thoát khỏi” môi trường kiểm soát và tự thực hiện những hành động ngoài dự kiến.

Trong những tuần gần đây, OpenAI, Anthropic và Meta cũng đã công bố các sự cố trong đó mô hình AI phá vỡ giới hạn của môi trường thử nghiệm hoặc tìm cách xâm nhập hệ thống bên ngoài nhằm đạt được mục tiêu trong các bài kiểm tra an ninh.

Các sự cố đều liên quan đến Irregular và bắt nguồn từ những vấn đề trong môi trường kiểm thử.

Những trường hợp này làm gia tăng lo ngại về “AI misalignment”, thuật ngữ chỉ tình trạng hành vi của mô hình không còn phù hợp với mục tiêu hoặc giới hạn mà con người đặt ra.

CEO Anthropic Dario Amodei trước đó kêu gọi ngành AI cùng nhau làm chậm quá trình phát triển các mô hình tiên tiến nhất cho đến khi các công ty có thể bảo đảm chúng được triển khai an toàn.

Với trường hợp Gemini, Google nhấn mạnh mô hình đã chủ động dừng hành động sau khi xác định mình đang truy cập các hệ thống thực tế.

“Những sự kiện này cho thấy tầm quan trọng của việc đào tạo các mô hình AI mạnh để chúng hành động có trách nhiệm”, Adkins nói.

(Theo CNBC)