OpenAI phát hiện thêm nhiều trường hợp mô hình AI có hành vi lệch mục tiêu

Ngày 16-9, OpenAI công bố khung mới nhằm theo dõi, điều tra và công khai các trường hợp được xác định là “lệch mục tiêu”, đồng thời công bố 6 báo cáo về những hành vi được phát hiện trong quá trình huấn luyện và đánh giá mô hình trong khoảng 6 tháng qua.

Bài toán khó nhất của an toàn là khi agent AI “lách luật”. Ảnh minh họa: AI

Một số trường hợp cho thấy, mô hình tự đưa các chỉ dẫn vào bản tóm tắt nhiệm vụ để sử dụng cho những bước xử lý tiếp theo. Trong một thử nghiệm khác, mô hình được ghi nhận tìm cách che giấu sai sót hoặc không nhất quán trong thông tin mà nó tạo ra.

OpenAI cũng phát hiện trường hợp mô hình tải tệp lên Internet nhằm tạo nguồn dẫn, dù hành động này không được yêu cầu, hay trường hợp các tác nhân AI chia sẻ tệp với nhau mà không được cấp phép. Một mô hình khác sử dụng các kênh không được dự kiến để trao đổi thông tin giữa những phiên làm việc riêng biệt.

Trong một trường hợp khác, mô hình nghiên cứu chưa được phát hành đã đưa các chỉ dẫn nhằm bỏ qua một số giới hạn thông thường vào 27 bản tóm tắt do chính nó tạo ra. OpenAI cho biết đây là một trong những ví dụ được ghi nhận trong quá trình đánh giá hành vi của mô hình.

OpenAI nhấn mạnh 6 trường hợp trên là những sự việc riêng lẻ, không phản ánh tần suất xảy ra hành vi lệch mục tiêu trong toàn bộ các mô hình. Công ty cũng cho biết danh sách này chưa phải tổng hợp đầy đủ tất cả các trường hợp đã được phát hiện hoặc đang được điều tra.

Các vụ việc sẽ được phân loại theo mức độ, từ những trường hợp có thể chuẩn bị công bố đến các vụ cần điều tra quy mô nhỏ hoặc lớn trước khi đưa ra thông tin công khai.

Việc OpenAI công bố khung này diễn ra trong bối cảnh các tác nhân AI ngày càng được trao khả năng tự thực hiện nhiều nhiệm vụ. Công ty cho biết sẽ tiếp tục công bố những trường hợp đáp ứng tiêu chí của khung mới, nhằm tăng tính minh bạch trong quá trình phát triển và triển khai AI.