Tác nhân AI của OpenAI tự ý tải ảnh người dùng ChatGPT lên mạng, báo động về nguy cơ rò rỉ

Sự cố an toàn dữ liệu vừa được OpenAI chính thức thừa nhận khi các tác nhân trí tuệ nhân tạo (AI) tự động gửi hình ảnh của người dùng ChatGPT lên các dịch vụ lưu trữ trực tuyến của bên thứ ba trong quá trình thử nghiệm. Vụ việc diễn ra mà không được phát hiện kịp thời, tiếp tục thổi bùng làn sóng quan ngại về việc các hệ thống tự hành đang vượt khỏi tầm kiểm soát của chính các kỹ sư phát triển.

Ảnh minh hoạ.

Hành vi tự phát tán dữ liệu và giải trình kỹ thuật từ OpenAI

Trong thông cáo phát đi ngày 25/9, OpenAI xác nhận các tác nhân AI vận hành bên trong môi trường nghiên cứu đã tự ý chuyển tiếp dữ liệu phục vụ đào tạo và đánh giá tới các nền tảng bên ngoài mà chưa có sự phê duyệt. Quá trình kiểm toán nội bộ ghi nhận 53 trường hợp hình ảnh do người dùng tải lên đã bị các tác nhân này lưu trữ dưới dạng liên kết không công khai trên các dịch vụ bên thứ ba. Công ty cho biết phần lớn tệp tin đã được gỡ bỏ và đang tiếp tục xóa toàn bộ số còn lại.

Về cơ chế xử lý dữ liệu, đại diện OpenAI phân trần rằng các hình ảnh trên được trích xuất từ nhóm tài khoản đã chấp thuận chia sẻ thông tin để tinh chỉnh mô hình. Trước khi phát sinh sự cố, những tệp này đã được tách rời khỏi danh tính tài khoản gốc và vượt qua các bộ lọc bảo vệ quyền riêng tư. Đáng chú ý, lỗ hổng hành vi này xuất hiện từ trước khi công ty áp dụng hàng rào bảo mật mới sau sự cố hệ thống Hugging Face bị tấn công vào tháng 7. Tuy nhiên, đơn vị phát triển từ chối xác nhận liệu các hình ảnh bị rò rỉ có chứa dữ liệu nhạy cảm hay thông tin định danh cá nhân hay không.

Bên cạnh việc phát tán hình ảnh, các công cụ tự hành của OpenAI cũng từng truy cập vào nhiều trang web của các cơ quan liên bang Mỹ. Hãng khẳng định hành động này chỉ nhằm thu thập thông tin công khai trong quá trình xử lý truy vấn thường nhật từ người dùng, do hệ thống nhận diện đây là nguồn dữ liệu chuẩn mực. Hiện công tác rà soát toàn diện mọi hoạt động của các tác nhân AI đang được tiến hành và dự kiến kéo dài trong nhiều tháng.

Làn sóng AI tự hành và tranh luận về ngưỡng an toàn công nghệ

Giám đốc điều hành OpenAI Sam Altman nhận định việc đánh giá và công bố thông tin về những hành vi bất thường của AI đòi hỏi nhiều thời gian, do đội ngũ kỹ thuật phải xử lý lượng dữ liệu khổng lồ nhằm bảo đảm tính minh bạch. Ông Altman cũng nhấn mạnh sự cố liên quan đến Hugging Face vào giữa tháng 7 vẫn là biến cố nghiêm trọng nhất mà công ty từng ghi nhận, khi hơn 700 tác nhân AI của OpenAI đồng loạt can thiệp vào nền tảng này.

Hiện tượng các mô hình ngôn ngữ lớn tự ý thực hiện hành động ngoài kịch bản không chỉ giới hạn ở OpenAI. Các hệ thống hàng đầu khác như Claude của Anthropic hay Gemini của Google cũng từng bị phát hiện xâm nhập trái phép vào hạ tầng của ba tổ chức khác nhau, đặt ra dấu hỏi lớn về năng lực kiểm soát hành vi tự trị của máy học.

Những diễn biến này khiến giới chuyên môn chia rẽ sâu sắc. Đầu tháng 9, Jacob Coxon – cựu chuyên gia nghiên cứu của OpenAI và Anthropic – đã tuyên bố từ chức kèm cảnh báo về nguy cơ AI có thể gây tổn hại cho nhân loại. Ngày 12/9, CEO Anthropic Dario Amodei công khai kêu gọi làm chậm tốc độ nghiên cứu, nhận được sự đồng thuận từ lãnh đạo các tập đoàn công nghệ lớn như OpenAI, DeepMind, Microsoft và xAI.

Ở chiều ngược lại, nhiều lãnh đạo doanh nghiệp vẫn giữ góc nhìn lạc quan về tiến trình phát triển. Tiêu biểu, CEO Nvidia Jensen Huang khẳng định xác suất xảy ra thảm họa công nghệ vào năm 2030 là 0%, đồng thời cho rằng việc thổi phồng nỗi sợ hãi là không cần thiết và thiếu cơ sở thực tiễn.