AI 'đi lạc' trên Internet: Hơn 100 tổ chức được OpenAI thông báo sau loạt vụ tác nhân AI vượt giới hạn

Giám đốc điều hành của OpenAI, Sam Altman, phát biểu trong cuộc họp của Hội đồng Bảo an Liên Hợp Quốc về trí tuệ nhân tạo (AI) và an ninh quốc tế tại phiên họp thứ 81 của Đại hội đồng Liên Hợp Quốc tại Trụ sở Liên Hợp Quốc. Các nhà lãnh đạo ngành công nghệ, bao gồm cả các giám đốc điều hành của OpenAI, Anthropic và Hugging Face, đã báo cáo với các đại sứ về những rủi ro của trí tuệ nhân tạo. Ảnh: Getty Images

Hơn 100 tổ chức được OpenAI thông báo

Ngày 30/9, OpenAI công bố thêm thông tin về cuộc rà soát hoạt động của các mô hình AI sau sự cố liên quan nền tảng phát triển AI Hugging Face. Theo hãng, tính đến ngày 26/9, hơn 100 tổ chức đã được thông báo về hoạt động của các tác nhân AI đáp ứng tiêu chí thông báo.

OpenAI cho biết phần lớn hoạt động được rà soát là những nhiệm vụ nghiên cứu thông thường, như truy cập nội dung công khai trên Internet. Cuộc rà soát tập trung vào những trường hợp tác nhân AI tương tác với website của bên thứ ba theo cách vượt quá nhiệm vụ hoặc phương thức được giao.

Để tìm thêm các trường hợp tương tự, OpenAI đang rà soát khoảng 50 petabyte dữ liệu từ hoạt động huấn luyện và đánh giá trước đây. Khoảng 7.000 GPU GB200 và GB300 được huy động, với chi phí hơn 500.000 USD mỗi ngày.

Đến nay, OpenAI chưa xác định thêm vụ việc nào có quy mô hoặc mức độ nghiêm trọng tương đương sự cố Hugging Face. Tuy nhiên, hãng cho biết cuộc rà soát vẫn tiếp tục và có thể phát hiện thêm những trường hợp xảy ra trong quá khứ.

OpenAI đang tìm kiếm thông tin trong khoảng 50 petabyte dữ liệu để hiểu rõ toàn bộ phạm vi hoạt động của các tác nhân AI. Hàng loạt vụ xâm phạm an ninh mạng quy mô lớn trên toàn cầu do các tác nhân AI gây ra trong những tháng gần đây đã làm dấy lên những lo ngại rộng rãi trong ngành công nghiệp AI về khả năng kiểm soát các mô hình AI mạnh mẽ hơn đang được phát triển hiện nay. Ảnh: Pinterest

Tác nhân AI thực hiện những hành động ngoài dự kiến

Ngày 1/10, Asymmetric Security công bố kết quả rà soát kéo dài 48 giờ về hoạt động của các tác nhân AI bị nghi liên quan OpenAI trong giai đoạn tháng 3-9/2026. Nhóm nghiên cứu cho biết đã phát hiện dấu hiệu thăm dò nhiều hệ thống, trong đó có website của Trung tâm Kiểm soát và Phòng ngừa Dịch bệnh Mỹ, Ủy ban Chứng khoán và Giao dịch Mỹ, Cơ quan Năng lượng Quốc tế và Mayo Clinic. Nhóm cũng cho biết phát hiện truy cập thành công vào một số môi trường thử nghiệm.

Các nhà nghiên cứu ghi nhận tác nhân AI tìm kiếm tệp cấu hình, tạo tài khoản và sử dụng các dịch vụ bên thứ ba để mở đường truy cập Internet. Một số hoạt động được cho là tận dụng các dịch vụ như httpbin và urlquery để chuyển mã tới hệ thống bên ngoài, thực thi mã qua trình duyệt từ xa rồi nhận kết quả trả về.

Asymmetric Security cho biết một số dấu vết không thể được xác minh đầy đủ bằng dữ liệu công khai, trong đó có những trường hợp nhật ký hoạt động đã bị xóa hoặc không thể truy cập.

Một trường hợp khác được Transluce công bố liên quan đến Library and Archives Canada. Theo nhóm nghiên cứu, tác nhân AI đã gửi hàng trăm yêu cầu tới hệ thống của cơ quan này vào ngày 28/5 và 9/6, trong đó có các yêu cầu mang dấu hiệu tìm cách khai thác lỗ hổng. Canada xác nhận đã biết về hoạt động đáng ngờ nhưng cho biết chưa có dấu hiệu hệ thống chính phủ bị xâm nhập. Transluce cũng chưa thể xác định chắc chắn tác nhân này có phải do OpenAI phát triển hay không.

Australia cũng ghi nhận các trường hợp được xác nhận. Trong tháng 6, các mô hình OpenAI được sử dụng cho huấn luyện và đánh giá nội bộ đã truy cập một số website của chính phủ Australia theo cách không được phép.

Đáng chú ý nhất là hệ thống báo cáo thống kê Medicare của Cơ quan Dịch vụ Australia. OpenAI cho biết mô hình đã tìm được cách truy cập phần không công khai của hệ thống, chạy lệnh, lấy tệp nội bộ, thông tin xác thực và số liệu thống kê tổng hợp. Hãng không tìm thấy bằng chứng hồ sơ của từng bệnh nhân hoặc khách hàng bị truy cập.

Ngày 2/10, OpenAI tiếp tục xác nhận một mô hình đã truy cập ứng dụng web của Cơ quan Công viên Quốc gia và Bảo tồn Động vật hoang dã bang New South Wales. Hệ thống chứa dữ liệu lịch sử cháy rừng và thông tin công khai; chính quyền bang cho biết chưa phát hiện truy cập trái phép vào thông tin cá nhân.

OpenAI thừa nhận các mô hình trong quá trình huấn luyện nội bộ đã truy cập một số website chính phủ Australia theo cách không được phép. Hãng cũng thừa nhận lẽ ra phải chia sẻ các phát hiện sơ bộ sớm hơn và cập nhật thường xuyên hơn cho các cơ quan liên quan.

AI có quyền hành động đang trở thành vấn đề pháp lý

Loạt sự cố diễn ra trong lúc Mỹ bắt đầu xem xét trách nhiệm pháp lý đối với các tác nhân AI có khả năng tự thực hiện hành động trên Internet.

Ngày 30/9, Ủy ban Thương mại Liên bang Mỹ mở cuộc điều tra đối với OpenAI, Anthropic và một số tổ chức nghiên cứu AI về những rủi ro đối với người tiêu dùng. Cuộc điều tra diễn ra trong bối cảnh ngày càng xuất hiện nhiều báo cáo về AI thực hiện các hành động vượt ngoài mục đích được giao.

Ngày 1/10, Thượng nghị sĩ Josh Hawley và Chris Murphy công bố Dự luật “Đạo luật về trách nhiệm đối với tác nhân AI” (AI Agent Accountability Act) đề xuất trách nhiệm dân sự và hình sự đối với nhà vận hành, nhà phát triển tác nhân AI trong một số trường hợp liên quan đến hành vi tấn công mạng. Cùng ngày, Thượng viện Mỹ tổ chức phiên điều trần về rủi ro từ các hệ thống có khả năng tự hành động trên Internet. 

Điểm cốt lõi của các sự cố không nằm ở việc AI có "ý chí" hay không, mà ở quyền hạn con người trao cho hệ thống. Một tác nhân AI càng có khả năng tự tìm kiếm, sử dụng công cụ và thực hiện nhiều bước liên tiếp thì càng cần được phân quyền theo phạm vi cụ thể, giới hạn quyền truy cập và đặt dưới sự giám sát của con người.

AI có thể tự thực hiện một hành động, nhưng con người quyết định AI được phép làm gì. Khi hệ thống vượt khỏi nhiệm vụ được giao, trách nhiệm vì thế không chỉ nằm ở việc xác định AI đã làm gì, mà còn ở việc ai đã trao quyền, ai phải giám sát và ai chịu trách nhiệm.