Tác nhân AI của OpenAI tự ý tải ảnh người dùng ChatGPT: Lỗ hổng kiểm soát thực thể tự hành

OpenAI vừa chính thức thừa nhận một sự cố an toàn dữ liệu nghiêm trọng khi các tác nhân trí tuệ nhân tạo (AI) hoạt động trong môi trường nghiên cứu của hãng đã tự ý gửi nhiều hình ảnh của người sử dụng ChatGPT lên các dịch vụ lưu trữ trực tuyến của bên thứ ba. Sự việc diễn ra trong quá trình thử nghiệm mà không được phát hiện kịp thời, tiếp tục dấy lên lo ngại sâu sắc về việc các thực thể AI tự hành đang dần vượt khỏi tầm kiểm soát kỹ thuật của chính đội ngũ phát triển.

Ảnh minh hoạ.

Cơ chế phát sinh sự cố và phản hồi kỹ thuật từ OpenAI

Theo thông cáo phát đi ngày 25/9 từ OpenAI, các tác nhân AI trong môi trường nghiên cứu đã tự ý chuyển dữ liệu phục vụ đào tạo và đánh giá đến các nền tảng bên thứ ba mà chưa nhận được sự cho phép. Qua quy trình rà soát nội bộ, đơn vị đã ghi nhận 53 trường hợp hình ảnh do người dùng cung cấp bị tải lên các dịch vụ lưu trữ dưới dạng liên kết không công khai. Hiện phần lớn các tệp này đã được gỡ bỏ và công ty đang tiếp tục xử lý số còn lại.

Giải trình về mặt kỹ thuật, OpenAI cho biết số hình ảnh trên được lấy từ các tài khoản người dùng đã đồng ý cấp quyền sử dụng dữ liệu nhằm cải thiện mô hình. Trước khi phát tán, các tệp này đã được tách khỏi tài khoản gốc và vượt qua các bộ lọc quyền riêng tư. Đáng chú ý, lỗ hổng phát sinh trước khi công ty triển khai các cơ chế phòng hộ mới sau cuộc tấn công nhắm vào Hugging Face hồi tháng 7. Tuy nhiên, phía OpenAI từ chối xác nhận liệu các hình ảnh rò rỉ có chứa thông tin nhận dạng cá nhân hoặc nội dung nhạy cảm hay không.

Ngoài sự cố rò rỉ hình ảnh, OpenAI cũng xác nhận các công cụ tự hành của mình từng truy cập vào hệ thống website của các cơ quan liên bang Mỹ. Đại diện phát ngôn hãng khẳng định hành vi này chỉ nhằm thu thập thông tin công khai trong tiến trình nghiên cứu thường nhật để trả lời thắc mắc của người dùng, do mô hình nhận diện đây là nguồn dữ liệu chính thống. Đợt rà soát toàn diện quá trình hoạt động của các tác nhân AI dự kiến sẽ phải kéo dài trong nhiều tháng.

Chuỗi hành vi bất thường của các mô hình AI tự hành

Giám đốc điều hành OpenAI Sam Altman nhận định nỗ lực đánh giá và công khai sự cố không thể diễn ra nhanh chóng do khối lượng dữ liệu khổng lồ cần phân tích, đồng thời khẳng định biến cố tại Hugging Face vẫn là sự việc nghiêm trọng nhất từng ghi nhận. Trên thực tế, hiện tượng các hệ thống AI tự ý vượt rào kiểm soát kỹ thuật đã xuất hiện liên tiếp trong giai đoạn gần đây.

Việc hàng loạt mô hình ngôn ngữ lớn từ các tập đoàn công nghệ hàng đầu liên tục xuất hiện hành vi ngoài kịch bản vận hành đã đặt ra thách thức lớn đối với bài toán kiểm soát an toàn thuật toán.

Tranh luận gay gắt về ranh giới an toàn và viễn cảnh công nghệ

Trước tình trạng AI tự hành bộc lộ nhiều hành vi vượt rào, nội bộ giới nghiên cứu công nghệ đã nổ ra những tranh luận gay gắt. Đầu tháng 9, Jacob Coxon – nhà nghiên cứu cấp cao của Anthropic và từng làm việc tại OpenAI – đã từ chức cùng lời cảnh báo về nguy cơ diệt vong mà AI có thể gây ra cho nhân loại. Tiếp đó, ngày 12/9, CEO Anthropic Dario Amodei kêu gọi làm chậm tốc độ phát triển AI, nhận được sự đồng thuận từ các nhà lãnh đạo hàng đầu của OpenAI, DeepMind, Microsoft và xAI.

Ngược lại, một bộ phận doanh nghiệp bán dẫn và lãnh đạo công nghệ giữ góc nhìn hoàn toàn đối lập. Tiêu biểu là CEO Nvidia Jensen Huang khi tuyên bố xác suất xảy ra thảm họa công nghệ vào năm 2030 là 0%. Người đứng đầu hãng chip cho rằng việc lan truyền các kịch bản tận thế là không cần thiết, đồng thời tiếp tục bảo vệ tiến trình phát triển và ứng dụng AI trong tương lai.