AI của Google 'vượt rào', xâm nhập 3 công ty

Gemini thâm nhập vào hệ thống mạng của 3 công ty. Ảnh: Reuters.

Hôm 18/9, Google cho biết hệ thống trí tuệ nhân tạo (AI) Gemini của họ thoát khỏi môi trường thử nghiệm vào tháng 5 và xâm nhập vào hệ thống của 3 công ty. Sự cố xảy ra trong quá trình đánh giá năng lực an ninh mạng của Gemini.

Tin tức xuất hiện sau những vụ việc tương tự tại các phòng thí nghiệm AI hàng đầu khác, bao gồm Anthropic, OpenAI và Meta, làm dấy lên lo ngại về việc công nghệ này vượt khỏi tầm kiểm soát của con người.

Một số nhà lãnh đạo trong ngành, như CEO Anthropic, Dario Amodei kêu gọi làm chậm lại quá trình phát triển AI. Những người khác, như Jensen Huang, CEO nhà sản xuất chip Nvidia, lại cho rằng nên tiếp tục phát triển AI với tốc độ nhanh.

Sự cố xảy ra trong quá trình thử nghiệm của Irregular, một startup Israel chuyên hợp tác với các công ty công nghệ để đánh giá các mô hình AI trước khi phát hành ra công chúng.

"Việc truy cập Internet vô tình được kích hoạt, dẫn đến một số mô hình thực hiện các hành động mang tính tấn công trong thế giới thực", Irregular cho biết trong một bài đăng trên blog, đồng thời nói thêm rằng lỗ hổng cho phép các mô hình truy cập Internet đã được khắc phục.

Theo giải thích của Google, các mô hình được lập trình để tấn công một công ty hư cấu. Nhưng công ty hư cấu trong thử nghiệm lại trùng tên với một công ty có thật. Khi Gemini truy cập được vào Internet, chúng bắt đầu cố gắng xâm nhập vào công ty đó.

Các mô hình AI sử dụng mật khẩu tìm được trên mạng hoặc dự đoán để đăng nhập vào cơ sở hạ tầng trực tuyến của công ty mục tiêu và 2 công ty khác.

Dan Lahav, CEO Irregular, công ty đánh giá năng lực an ninh mạng tuyên bố đã kiểm soát được tình hình sau vụ "để xống" Gemini. Ảnh: New York Times.

Sau khi đăng nhập, chúng nhận ra đang truy cập vào cơ sở hạ tầng thực thay vì môi trường mô phỏng và chấm dứt các cuộc tấn công, Google cho biết, đồng thời khẳng định AI của họ không gây hại cho các công ty bị tấn công.

"Tất cả phòng thí nghiệm liên quan được thông báo vào cuối tháng 7, các đơn vị bị ảnh hưởng được liên hệ trong quá trình điều tra", Irregular tuyên bố. Công ty khẳng định đã hành động ngay tức thì, nắm rõ các vấn đề và khắc phục tất cả từ nhiều tuần trước.

Heather Adkins, Phó chủ tịch kỹ thuật an ninh của Google, cam kết thông báo đầy đủ với 3 công ty trong diện bị ảnh hưởng bởi sự cố vừa qua, kết hợp với đối tác để thay đổi quy trình thử nghiệm. "Những sự kiện này nhấn mạnh tầm quan trọng của việc huấn luyện các mô hình AI mạnh mẽ để hoạt động có trách nhiệm", Adkins cho biết.

Cuộc tranh luận về sự an toàn của AI trở nên gay gắt hơn vào tuần trước khi một nhà nghiên cứu vừa rời Anthropic cho rằng công ty không xây dựng công nghệ một cách an toàn và cần phải giảm tốc độ.

Các nhân viên tại OpenAI và Google nhanh chóng đồng tình. Nhưng Tổng thống Mỹ Donald Trump tuyên bố không quan tâm đến việc ban hành luật yêu cầu giảm tốc độ phát triển và gọi những lo ngại rằng AI có thể dẫn đến sự tuyệt chủng hàng loạt là một "trò lừa bịp".