Lần đầu tiên xảy ra vụ tác nhân AI xâm nhập hệ thống chính phủ

Biểu tượng ChatGPT của Công ty OpenAI tại một văn phòng ở Washington DC. Ảnh: philstar.com/TTXVN

Theo truyền thông Anh, ông Albanese tiết lộ thông tin trên khi trao đổi với các phóng viên bên lề Đại hội đồng Liên hợp quốc (UNGA) tại New York. Đây là vụ việc đầu tiên mà AI tấn công một mạng lưới của chính phủ.

Ông Albanese cho biết: “Đang diễn ra cuộc điều tra với sự hỗ trợ của Cục Tín hiệu Australia nhằm xác định thêm thông tin, trong đó kiểm tra xem những hệ thống khác của chính phủ có bị ảnh hưởng hay không”.

Theo ông Albanese, ba hệ thống khác của chính phủ có thể cũng bị ảnh hưởng, gồm Viện Y tế và Phúc lợi Australia, Cục Thống kê và Nghiên cứu Tội phạm bang New South Wales và Sở Y tế bang Victoria.

Ông Albanese cho biết, Australia không biết về tiền lệ nào liên quan đến việc một hệ thống chính phủ bị xâm nhập theo cách này. Vụ việc xảy ra khi một tác nhân của OpenAI nghiên cứu về chi tiêu y tế đã vượt qua các biện pháp chặn để tìm kiếm câu trả lời trong những lĩnh vực mà nó không được phép tiếp cận.

Thông tin trên là ví dụ mới nhất về việc các tác nhân AI hoạt động ngoài kiểm soát và thực hiện những hành động vượt quá ý định của người vận hành.

Về phần mình, người phát ngôn OpenAI Drew Pusateri nói rằng vụ việc xảy ra vào tháng 6, nhưng công ty chỉ phát hiện vào tháng 8 trong quá trình kiểm tra chuyên sâu về hoạt động của các mô hình AI. Ông Pusateri thông báo: “Trong quá trình rà soát này, chúng tôi phát hiện hoạt động liên quan đến một số trang web và dịch vụ của chính phủ Australia khi các mô hình của chúng tôi cố gắng tìm kiếm câu trả lời và số liệu thống kê có sẵn cho các câu hỏi về Australia trong một đợt đánh giá nội bộ. Trong quá trình đó, các mô hình của chúng tôi đã thực hiện những hành động mà chúng tôi không chủ định”.

OpenAI khẳng định không tìm thấy bằng chứng cho thấy hồ sơ bệnh nhân bị truy cập trong vụ xâm nhập hệ thống Medicare của Australia, cũng không thấy thông tin bị truy cập có các số liệu thống kê y tế tổng hợp và tên các tệp nội bộ.

OpenAI đã thông báo cho chính phủ Australia ngày 10/9. Tuy nhiên, ông Albanese nói thông báo được gửi tới một hộp thư công cộng, dẫn đến việc bộ trưởng phụ trách chỉ được thông báo sau đó 5 ngày.

Trước đó, ông Albanese đã trao đổi qua điện thoại với Giám đốc điều hành OpenAI Sam Altman, nói về vụ tác nhân AI đã truy cập cả các tệp công khai và không công khai trong cơ sở dữ liệu thống kê Medicare của nước này, thậm chí còn ghi các tệp vào đó.

Ông Albanese đã bày tỏ mối quan ngại cực kỳ nghiêm trọng của Australia với ông Altman: “Tôi thất vọng vì công ty đã mất quá nhiều thời gian để thông báo cho chính phủ về những gì đã xảy ra và cách thức thông báo cũng không thể chấp nhận được”.

Theo ông, OpenAI hiểu rằng họ cần có những quy trình tốt hơn.

Sự việc ở Australia diễn ra sau khi một số nhân vật hàng đầu trong ngành AI kêu gọi giảm tốc độ phát triển AI. Ông Altman và Giám đốc điều hành Anthropic Dario Amodei đã quan ngại về tốc độ phát triển nhanh chóng của AI. Cả hai đều phát biểu tại UNGA ngày 23/9, kêu gọi tăng cường phối hợp toàn cầu và xây dựng các tiêu chuẩn quốc tế về phát triển AI.

Ông Altman kêu gọi các nhà lãnh đạo thế giới xây dựng các tiêu chuẩn quốc tế về đo lường năng lực, đánh giá rủi ro, xác định liệu các biện pháp bảo vệ có đủ hay không và duy trì giám sát thực chất đối với công nghệ đang phát triển nhanh chóng này.

Trước đó, hồi tháng 7, OpenAI công bố rằng trong quá trình kiểm thử an ninh mạng, các mô hình của công ty này đã tạo ra một nhóm tác nhân AI để tấn công hệ thống của công ty AI Hugging Face. Nhiều người trong ngành coi vụ tấn công này là ví dụ về những nguy cơ phát sinh khi tốc độ phát triển và gia tăng năng lực AI diễn ra nhanh chóng.