OpenAI cảnh báo về chiến dịch sao chép mô hình AI
OpenAI phát hiện chiến dịch khai thác mô hình AI, xác định một cụm hoạt động liên quan đến Moonshot AI, startup Trung Quốc đứng sau chatbot Kimi.
Theo CNBC, OpenAI đã phát hiện và ngăn chặn một chiến dịch có tổ chức, trong đó các đối tượng tìm cách khai thác phần suy luận được bảo vệ từ các mô hình trí tuệ nhân tạo (AI) của công ty. OpenAI xác định một cụm hoạt động chính trong chiến dịch có liên quan đến startup Trung Quốc Moonshot AI, đơn vị phát triển Kimi.
Theo OpenAI, hoạt động này bắt đầu vào đầu tháng 7 và sau đó tăng mạnh lên 16.000 yêu cầu từ hơn 4.000 người dùng trong vòng hai ngày. Công ty cuối cùng xác định các hoạt động liên quan trải rộng trên một cụm gồm hơn 15.000 người dùng và cho biết đã hoàn toàn ngăn chặn chiến dịch vào ngày 28/7.
OpenAI cho biết đã ngăn chặn chiến dịch nhằm khai thác khả năng suy luận từ mô hình AI, trong đó một cụm hoạt động liên quan startup Trung Quốc Moonshot AI. Ảnh: Getty Images
Những phát hiện trên được công bố chỉ vài tuần sau khi đối thủ của OpenAI là Anthropic cáo buộc một số nhà phát triển AI Trung Quốc, trong đó có Moonshot AI và Alibaba, bí mật sử dụng mô hình Claude của công ty để hỗ trợ huấn luyện các hệ thống AI của riêng họ. Diễn biến này cho thấy mối lo ngại ngày càng gia tăng trong các công ty AI Mỹ rằng đối thủ có thể sử dụng mô hình của họ để phát triển công nghệ cạnh tranh nhanh hơn và với chi phí thấp hơn.
OpenAI mô tả hoạt động mới nhất là "chưng cất đối kháng" (adversarial distillation), trong đó đầu ra hoặc khả năng suy luận của một mô hình AI được sử dụng để hỗ trợ huấn luyện hoặc cải thiện một mô hình khác.
Công ty cho biết việc khai thác khả năng suy luận như vậy có thể cho phép các bên khác tái tạo những năng lực tiên tiến mà không cần thực hiện khoản đầu tư tương tự vào việc phát triển và bảo vệ các mô hình AI tiên phong. Theo OpenAI, hoạt động này có thể kéo theo những rủi ro về an toàn và an ninh quốc gia.
Theo công ty, các đối tượng vận hành chiến dịch không xâm nhập vào hệ thống mã hóa, cơ sở dữ liệu hoặc những cuộc trò chuyện của người dùng được lưu trữ trên hệ thống OpenAI. Thay vào đó, họ thao túng các tương tác với mô hình AI nhằm tìm cách tái tạo phần suy luận ẩn dưới dạng có thể hiển thị cho người đưa ra yêu cầu.
OpenAI cho biết chưa rõ liệu tất cả các đối tượng tham gia có liên quan đến cùng một bên hay không. Tuy nhiên, công ty xác định một cụm hoạt động chính có liên quan đến những cá nhân gắn với Moonshot AI.
OpenAI cho biết đã chia sẻ các phát hiện này với những nhà phát triển AI khác thông qua Frontier Model Forum, cũng như các kênh chia sẻ thông tin với chính phủ.
