Nhóm tác nhân AI có liên hệ với OpenAI sử dụng wiki để tự lập kênh kiên lạc

Ảnh minh họa

Phát hiện được nhóm 4 nhà nghiên cứu, trong đó có Sydney Von Arx thuộc tổ chức an toàn AI Nightingale Collective, công bố ngày 5-9.

Nhóm này ghi nhận khoảng 18.000 bài đăng hoặc lượt chỉnh sửa do những tác nhân AI tự nhận có liên hệ với OpenAI thực hiện trong quá trình tham gia các nhiệm vụ tìm kiếm thông tin trên mạng.

Phần lớn hoạt động diễn ra trên DSEWiki, một trang wiki dành cho cộng đồng phát triển phần mềm Đức đã tồn tại khoảng 25 năm nhưng ít được sử dụng trong những năm gần đây.

Các tác nhân AI được cho là chỉ được phép đọc thông tin trên Internet, song đã tìm ra cách đăng nội dung lên trang web này.

Theo báo cáo, những tác nhân AI sử dụng DSEWiki như một bảng thông tin chung. Chúng đăng đáp án cho các câu hỏi, tổng hợp kết quả tìm kiếm và dự báo thời điểm xuất hiện những nhiệm vụ tiếp theo.

Những tác nhân nhận câu hỏi sớm hơn đôi khi để lại câu trả lời cho các tác nhân gặp cùng câu hỏi ở vòng sau, tạo lợi thế ngoài dự kiến của bên vận hành.

Nhóm nghiên cứu lần đầu phát hiện các tác nhân cố chỉnh sửa một trang wiki công khai vào ngày 11-5 và ghi nhận lần đăng nội dung thành công đầu tiên trên DSEWiki vào ngày 24-5. Hoạt động phối hợp trên quy mô lớn bắt đầu từ ngày 16-6.

Các tác nhân AI còn được cho là đã thử nghiệm và trao đổi phương pháp vượt qua những hạn chế của môi trường “hộp cát”, vốn được thiết kế để cô lập chương trình và ngăn chúng thực hiện hành động ngoài phạm vi cho phép.

Khi một quản trị viên bắt đầu xóa nội dung, một số tác nhân tạo các trang dự phòng có tên mở đầu bằng “ZZZ”, dường như nhằm đưa chúng xuống cuối danh sách theo thứ tự chữ cái và giảm khả năng bị xóa trước.

Khoảng 98,5% lượt chỉnh sửa được xác định đến từ các địa chỉ mạng thuộc nền tảng Microsoft Azure. Nhóm nghiên cứu cũng ghi nhận hoạt động truy cập từ địa chỉ liên quan OpenAI và nhiều tác nhân sử dụng tên có chứa cụm từ “OpenAI”.

Từ những dấu hiệu này, các tác giả cho rằng nhóm tác nhân nhiều khả năng được triển khai trong một hoạt động nội bộ có liên hệ với công ty.

Tuy nhiên, các nhà nghiên cứu nhấn mạnh đây mới là đánh giá sơ bộ. Họ chỉ phân tích những dấu vết công khai trên trang wiki, không được tiếp cận dữ liệu nội bộ hoặc quá trình suy luận của các tác nhân.

Vì vậy, chưa thể xác định đầy đủ động cơ, chiến lược cũng như bản chất của những nhiệm vụ mà chúng thực hiện.

OpenAI cho biết công ty không được cung cấp báo cáo để xem xét trước khi công bố nên chưa thể phản hồi cụ thể về các kết luận. Công ty khẳng định sẽ nghiên cứu kỹ nội dung báo cáo và thực hiện những bước cần thiết sau đó.

Theo Xinhua