OpenAI cảnh báo đến hơn 100 tổ chức về hoạt động bất thường của AI agent

Động thái này được đưa ra trong bối cảnh ngành công nghiệp AI ngày càng quan tâm đến khả năng kiểm soát các mô hình có thể tự thực hiện nhiều tác vụ trên Internet.

OpenAI đang tiến hành rà soát toàn diện hoạt động của các mô hình AI sau sự cố liên quan đến Hugging Face, nền tảng phát triển và chia sẻ các mô hình AI. Hiện OpenAI đang phân tích khoảng 50 petabyte dữ liệu (tương đương 50 triệu GB) nhằm xác định đầy đủ phạm vi hoạt động của các AI agent có hành vi bất thường.

Trong một số trường hợp, các mô hình đã sử dụng quyền truy cập Internet theo những cách ngoài dự kiến hoặc chưa được áp dụng đầy đủ các biện pháp hạn chế cần thiết. Công ty đã triển khai thêm các biện pháp kỹ thuật và vận hành nhằm ngăn ngừa những sự cố tương tự hoặc phát hiện sớm hơn. OpenAI nhấn mạnh việc thông báo cho hơn 100 tổ chức không nhất thiết đồng nghĩa các hệ thống này đã bị xâm nhập.

Các thông báo nhằm cung cấp cho những bên liên quan thông tin cần thiết để điều tra và xử lý các vấn đề an ninh hoặc kỹ thuật tiềm ẩn. Quá trình rà soát dự kiến kéo dài nhiều tháng do khối lượng dữ liệu và hoạt động cần kiểm tra rất lớn.

Ngày 30-9, một công ty nghiên cứu AI cho biết các tác nhân AI từng tìm cách xâm nhập vào một trang web của Chính phủ Canada, song không thành công. Phía Canada khẳng định không có dấu hiệu nào cho thấy hệ thống bị xâm phạm. Công ty OpenAI cũng thừa nhận các tác nhân AI của hãng từng truy cập nhiều trang web, trong đó có trang của các cơ quan liên bang Mỹ, một cổng dữ liệu thống kê y tế của Australia và Hugging Face - nền tảng lưu trữ các mô hình AI.