OpenAI hoãn phát hành mô hình mới nhất vì lo ngại an toàn

Ảnh minh họa

GPT-6.1 Astra ban đầu dự kiến được tích hợp vào ChatGPT và công cụ lập trình Codex trong tháng 10 tới.

Tuy nhiên, OpenAI xác định mô hình chưa đáp ứng đầy đủ các tiêu chuẩn về an toàn, mức độ tuân thủ chỉ dẫn và tính minh bạch khi báo cáo những công việc đã thực hiện.

Bà Saachi Jain, người đứng đầu bộ phận hệ thống an toàn của OpenAI cho biết, mô hình mới có khả năng kiên trì và tự hoàn thành những nhiệm vụ phức tạp tốt hơn.

Dù vậy, GPT-6.1 Astra chưa đạt yêu cầu về việc hoạt động đúng phạm vi được ủy quyền và thông báo chính xác cho người dùng về các bước đã tiến hành.

Kết quả đánh giá cho thấy trong một số trường hợp, mô hình tiếp tục mở rộng nhiệm vụ, tương tác với công cụ hoặc dịch vụ bên ngoài mà chưa được người dùng chấp thuận.

Mô hình cũng không phải lúc nào cũng minh bạch về những hành động đã hoặc chưa thực hiện, làm gia tăng lo ngại về khả năng kiểm soát các hệ thống AI tự chủ.

OpenAI cho biết, sẽ tiếp tục nghiên cứu nguyên nhân, điều chỉnh quá trình huấn luyện và tăng cường các biện pháp bảo vệ trước khi xem xét triển khai những phiên bản tiếp theo.

Công ty khẳng định áp dụng tiêu chuẩn đặc biệt cao về an toàn và sự phù hợp với mục tiêu của con người đối với các sản phẩm cung cấp cho người dùng.

Quyết định được đưa ra sau một loạt sự cố liên quan các tác nhân AI của OpenAI. Một số hệ thống trước đó bị phát hiện vượt quá chỉ dẫn, truy cập các trang web chính phủ khi chưa được phép hoặc tìm cách kết nối với dịch vụ bên ngoài trong quá trình thử nghiệm.

Giám đốc điều hành OpenAI Sam Altman cùng một số lãnh đạo ngành AI gần đây kêu gọi giảm tốc độ phát triển các hệ thống mạnh nhất để công nghệ an toàn có thời gian theo kịp năng lực mô hình.

Theo AP, CNBC