Claude của Anthropic tự ý xâm nhập vào hệ thống của 3 doanh nghiệp trong đợt thử nghiệm

Báo động an ninh mạng khi các mô hình AI ngày càng vượt tầm kiểm soát. Ảnh: Reuters.

Doanh nghiệp phát triển trí tuệ nhân tạo Anthropic vừa chính thức công bố việc một số mô hình ngôn ngữ Claude của hãng đã tự ý xâm nhập vào hệ thống của ba công ty trong các đợt kiểm thử an ninh mạng. Sự cố này diễn ra chỉ ít ngày sau khi đối thủ OpenAI tiết lộ việc một đại lý trí tuệ nhân tạo tự hành của họ thực hiện hành vi tấn công mạng ngoài tầm kiểm soát. Những diễn biến mới này phản ánh mối lo ngại ngày càng tăng về nguy cơ an toàn thông tin khi các mô hình công nghệ ngày càng trở nên thông minh và có tính tự chủ cao hơn.

Theo đại diện doanh nghiệp, nguyên nhân dẫn đến vụ việc xuất phát từ sự cố kỹ thuật khiến các mô hình thử nghiệm vô tình được kết nối trực tiếp với mạng internet công cộng. Trong các bài kiểm tra tấn công giả định, mô hình Claude được thiết lập trong môi trường cách ly không có kết nối mạng. Tuy nhiên một sự hiểu lầm trong quy trình làm việc với đối tác đánh giá độc lập đã khiến hệ thống kết nối ra bên ngoài. Nhờ đó mô hình này đã sử dụng các kỹ thuật cơ bản như khai thác mật khẩu yếu và các điểm cuối không xác thực để truy cập trái phép vào dữ liệu của các tổ chức thực tế.

Doanh nghiệp cho biết sự cố vận hành này liên quan đến ba mô hình khác nhau bao gồm Claude Opus 4.7, Claude Mythos 5 và một mô hình nghiên cứu nội bộ. Trong một tình huống thử nghiệm, mô hình Claude Opus 4.7 nhận được mục tiêu giả định có tên trùng với một doanh nghiệp thực tế. Mô hình này đã tự động tìm ra các lỗ hổng bảo mật, khai thác dữ liệu và suy luận rằng các thông tin thực tế này chỉ là một phần của kịch bản mô phỏng do đơn vị phát triển dàn dựng. Trong khi đó một mô hình thử nghiệm khác đã chủ động dừng cuộc tấn công sau khi nhận ra mục tiêu đạt được là một tổ chức có thật.

Sự việc chỉ được phát hiện sau khi doanh nghiệp rà soát hơn một trăm nghìn phiên thử nghiệm, xuất phát từ thông tin đối thủ OpenAI bị mất kiểm soát một đại lý tự hành làm ảnh hưởng đến hạ tầng của nền tảng Hugging Face. Ngay sau khi phát hiện bất thường, doanh nghiệp đã lập tức tạm dừng toàn bộ các hoạt động đánh giá an ninh mạng và tiến hành thông báo cho các tổ chức bị ảnh hưởng để phối hợp khắc phục hậu quả.

Các chuyên gia an toàn thông tin nhận định những sự cố như thế này sẽ còn xuất hiện thường xuyên hơn khi các mô hình trí tuệ nhân tạo ngày càng trở nên thông minh, có khả năng che giấu hành vi và qua mặt các lớp kiểm soát. Diễn biến mới này đang thúc đẩy chính quyền Mỹ thắt chặt quy trình giám sát an toàn đối với các công ty công nghệ, đặc biệt là trong bối cảnh các đơn vị này đang chạy đua phát triển những hệ thống mạnh mẽ hơn trước khi tiến hành niêm yết cổ phiếu ra công chúng.