Google thừa nhận Gemini AI vượt rào hack 3 doanh nghiệp khác
Google thừa nhận mô hình trí tuệ nhân tạo (AI) Gemini đã vượt khỏi môi trường thử nghiệm, và truy cập vào hệ thống của 3 doanh nghiệp thực trong một bài kiểm tra bảo mật, nhưng không công bố sự cố này suốt 7 tuần.
Ảnh minh họa: AI
Sự việc xảy ra trong một thử nghiệm dạng bài test hacking có kiểm soát hồi tháng 5, khi Google thuê một công ty bên thứ ba thực hiện đánh giá khả năng tấn công của AI.
Tuy nhiên, do cấu hình sai, môi trường “sandbox” vốn phải cách ly hoàn toàn lại kết nối với internet, đồng thời sử dụng tên một doanh nghiệp có thật làm mục tiêu giả định.
Kết quả, Gemini đã tìm kiếm thông tin trên mạng và xác định 3 công ty có tên tương tự, sau đó tiến hành truy cập. AI này phát hiện mật khẩu bị lộ công khai của 2 công ty và thậm chí đoán được mật khẩu của công ty còn lại, dù Google cho biết hệ thống chưa sử dụng các thông tin này để đăng nhập thực tế.
Đáng chú ý, Google chỉ xác nhận sự cố sau khi báo chí đặt câu hỏi, thay vì chủ động công bố. Trước đó, các hãng công nghệ khác như Anthropic, OpenAI và Meta cũng đã thừa nhận những sự cố tương tự trong quá trình thử nghiệm AI, liên quan đến việc mô hình vượt khỏi môi trường kiểm soát.
Các chuyên gia cho rằng sự cố cho thấy rủi ro tiềm ẩn khi phát triển các hệ thống AI có khả năng tự hành động. Những lỗi cấu hình nhỏ trong môi trường thử nghiệm có thể dẫn đến hậu quả ngoài ý muốn trong thế giới thực, đặc biệt khi AI có khả năng truy cập internet và tương tác với hệ thống bên ngoài.
Sự việc cũng làm gia tăng áp lực quản lý đối với lĩnh vực AI. Tại Mỹ, các nhà lập pháp đã đề xuất dự luật cho phép cơ quan quản lý tạm dừng hoạt động của các mô hình AI nếu bị đánh giá gây rủi ro nghiêm trọng.
Trong bối cảnh các công ty công nghệ đẩy nhanh triển khai AI vào nhiều lĩnh vực như tài chính, thương mại điện tử và dịch vụ số, những sự cố như trên đặt ra yêu cầu cấp thiết về tiêu chuẩn an toàn, minh bạch và giám sát chặt chẽ hơn đối với các hệ thống trí tuệ nhân tạo.
