OpenAI lên tiếng về sự cố Wiki
OpenAI thừa nhận cần minh bạch hơn về sự cố AI ngoài dự kiến.
Theo Reuters, các quan chức OpenAI đã biết về sự cố Wiki tại Đức từ nhiều tuần trước, nhưng không công khai thông tin trong bối cảnh lãnh đạo công ty đang phải xử lý những hệ lụy sau vụ xâm nhập nhằm vào Hugging Face.
OpenAI được cho là đã nắm thông tin về sự việc nhưng lựa chọn giữ kín trong một thời gian. Công ty chưa lập tức phản hồi yêu cầu của Reuters về việc cung cấp thêm chi tiết, bao gồm những gì OpenAI biết về sự cố mà họ gọi là "wiki incident" (sự cố Wiki), cũng như lý do chỉ lên tiếng công khai sau khi Reuters đăng tải bài viết về vụ việc.
CEO OpenAI Sam Altman. Anrh: Reuters
Trong tuyên bố được đăng trên mạng xã hội X, OpenAI thừa nhận công ty và các bên trong ngành cần minh bạch hơn đối với những sự cố liên quan đến hành vi ngoài dự kiến của AI. Những hiện tượng này thường được giới công nghệ gọi là "misalignment", thuật ngữ chỉ tình trạng hành vi hoặc mục tiêu của hệ thống AI không hoàn toàn phù hợp với ý định của con người.
OpenAI cho rằng các quy định hiện nay về việc công khai những sự cố "lệch chuẩn" cần được mở rộng để thích ứng với giai đoạn mới trong quá trình phát triển năng lực của các mô hình AI. Công ty đồng thời thừa nhận ngành công nghệ vẫn chưa xây dựng được một tiêu chuẩn rõ ràng về cách thức báo cáo những hành vi lệch chuẩn xuất hiện trong quá trình huấn luyện, đánh giá và triển khai mô hình.
"Các quy định về công khai sự cố lệch chuẩn của chúng tôi cần được mở rộng để phù hợp với giai đoạn mới về năng lực của các mô hình", OpenAI cho biết.
Theo công ty, sự thiếu hụt một chuẩn chung đang đặt ra thách thức đáng kể khi các mô hình AI ngày càng có năng lực phức tạp hơn và được triển khai rộng rãi. Những hành vi ngoài dự kiến có thể xuất hiện ở nhiều giai đoạn khác nhau, từ quá trình huấn luyện, đánh giá cho đến khi hệ thống được đưa vào sử dụng thực tế.
OpenAI cho biết công ty đang phối hợp với hàng chục cơ quan quản lý nhà nước trên toàn thế giới để giải quyết các vấn đề liên quan. Động thái này diễn ra trong bối cảnh các nhà phát triển AI ngày càng chịu sức ép phải công khai và giải trình rõ hơn về cách những hệ thống tiên tiến được phát triển, đánh giá và kiểm soát.
Việc OpenAI thừa nhận sự cố Wiki cũng đặt ra câu hỏi về cách các công ty AI xử lý và công bố những sự cố phát sinh ngoài dự kiến, đặc biệt khi chưa có một tiêu chuẩn thống nhất trong toàn ngành.
