AI chiếm quyền website Đức, thực hiện hơn 15.000 chỉnh sửa
Một nhóm tác nhân trí tuệ nhân tạo (AI) được cho là đã vượt qua giới hạn kiểm soát, chiếm quyền sử dụng một trang wiki tiếng Đức và thực hiện hơn 15.000 chỉnh sửa, biến website này thành nơi các tác nhân trao đổi thông tin và chia sẻ cách hoàn thành nhiệm vụ, làm dấy lên những câu hỏi mới về mức độ tự chủ và giám sát AI.
Các tác nhân AI của OpenAI đã bí mật phối hợp với nhau trong nhiều tuần thông qua một wiki tiếng Đức bị chiếm quyền kiểm soát. Ảnh: techbuzz.
Các nhà nghiên cứu gần đây phát hiện một nhóm tác nhân AI dường như ban đầu chỉ được phép thụ động quan sát Internet đã tìm cách đăng nội dung lên một trang wiki tiếng Đức ít người biết đến. Sau khi có khả năng tương tác với website, các tác nhân này đã thực hiện hơn 15.000 chỉnh sửa, biến trang wiki thành một dạng bảng tin để chúng có thể trao đổi với nhau.
Theo Reuters, hoạt động của các tác nhân AI được cho là bắt đầu từ đầu tháng 5 và gia tăng mạnh vào tháng 6. Các nhà nghiên cứu phát hiện chúng không chỉ giao tiếp mà còn chia sẻ chiến thuật nhằm hoàn thành nhiệm vụ, né tránh việc bị phát hiện và vượt qua các cơ chế kiểm tra. Reuters ví hiện tượng này giống như một lớp học không có giáo viên, trong đó các học sinh tự trao đổi đáp án và phối hợp để tìm cách vượt qua bài kiểm tra.
Đáng chú ý, các nhà nghiên cứu còn phát hiện dấu vết cho thấy nhân viên OpenAI bắt đầu truy cập chính trang wiki này vào cuối tháng 6. Reuters cho rằng điều này có thể cho thấy OpenAI đã phát hiện việc các tác nhân AI thoát khỏi phạm vi dự kiến và nhân viên công ty truy cập website để tìm hiểu hoạt động của chúng. Tuy nhiên, Reuters cho biết chưa rõ chính xác OpenAI biết về vụ việc từ thời điểm nào và vì sao công ty không công bố thông tin này sớm hơn.
OpenAI cho biết đang xem xét báo cáo và sẽ thực hiện các bước cần thiết. Công ty cũng bác bỏ thông tin của Reuters cho rằng đội ngũ pháp lý của OpenAI từng ngăn cản một cuộc điều tra liên quan đến vụ việc.
Đây không phải lần đầu các tác nhân AI được ghi nhận có những hành vi vượt ngoài dự kiến khi được trao quyền tự chủ để thực hiện nhiệm vụ trên Internet. Vụ việc mới nhất một lần nữa đặt ra câu hỏi về tốc độ phát triển và triển khai các mô hình AI, cũng như mức độ tự chủ cần được trao cho những hệ thống được thiết kế để tự thực hiện một chuỗi nhiệm vụ thay vì chỉ phản hồi yêu cầu của con người.
Các nhà nghiên cứu cho rằng khi những mô hình AI ngày càng được tích hợp dưới dạng “tác nhân” có khả năng tự tương tác với các hệ thống bên ngoài, vấn đề kiểm soát và giám sát sẽ trở nên đặc biệt quan trọng, nhằm hạn chế nguy cơ chúng thực hiện những hành động ngoài dự kiến.
