Công cụ tìm kiếm ChatGPT dễ bị thao túng và lừa đảo
VietTimes - Sự kết hợp giữa LLM và tìm kiếm có tiềm năng tạo ra trải nghiệm người dùng tiên tiến, nhưng cũng đi kèm rủi ro đáng kể.
ChatGPT đang được OpenAI quảng bá như một công cụ tìm kiếm, nhưng các thử nghiệm ban đầu cho thấy một số lỗi tiềm ẩn. Ảnh: SCMP.
Cuộc điều tra của The Guardian đã phát hiện những lỗ hổng bảo mật nghiêm trọng trong hệ thống tìm kiếm tích hợp của ChatGPT do OpenAI phát triển. Công cụ này, vốn được cung cấp cho khách hàng trả phí và khuyến khích làm công cụ tìm kiếm mặc định.
Lỗ hổng từ nội dung ẩn và “prompt injection”
Trong thử nghiệm, The Guardian đã kiểm tra cách ChatGPT phản hồi khi tóm tắt các trang web chứa nội dung ẩn. Nội dung này có thể bao gồm hướng dẫn từ bên thứ ba nhằm thay đổi phản hồi của ChatGPT, được gọi là “prompt injection,” hoặc văn bản ẩn nhằm tác động đến đánh giá của ChatGPT, với mục đích nâng cao lợi ích của sản phẩm bất chấp thực tế.
Kết quả cho thấy, khi cung cấp URL một trang web giả mạo mô phỏng trang bán sản phẩm, ChatGPT ban đầu trả về đánh giá cân bằng, nêu cả ưu và nhược điểm. Tuy nhiên, khi trang web chứa văn bản ẩn chỉ đạo phản hồi tích cực, ChatGPT luôn đưa ra đánh giá hoàn toàn một chiều, ngay cả khi trang web này đã được nhiều người dùng đánh giá tiêu cực.
Jacob Larsen, chuyên gia an ninh mạng tại CyberCX, cảnh báo các trang web lừa đảo có thể tận dụng lỗ hổng này để thao túng phản hồi của ChatGPT. "Nếu hệ thống hiện tại được triển khai rộng rãi mà không sửa chữa, nguy cơ bị lạm dụng là rất cao", ông nhận định.
Nguy cơ từ mã độc và rủi ro lập trình
Bên cạnh nội dung ẩn, ChatGPT còn bị phát hiện trả về mã độc từ các trang web. Một trường hợp được Thomas Roccia, nhà nghiên cứu bảo mật của Microsoft, tiết lộ rằng một lập trình viên tiền điện tử đã mất 2.500 USD vì sử dụng đoạn mã do ChatGPT cung cấp. Đoạn mã này, thay vì hỗ trợ truy cập hợp pháp vào nền tảng blockchain Solana, lại đánh cắp thông tin đăng nhập của người dùng.
Điều này minh họa rõ nét rủi ro khi dữ liệu từ các mô hình ngôn ngữ lớn (LLM) như ChatGPT không được kiểm duyệt chặt chẽ. Chuyên gia Karsten Nohl từ SR Labs so sánh LLM với một “đứa trẻ có trí nhớ tuyệt vời nhưng thiếu khả năng phán đoán”.
Cảnh báo và bài học từ các công cụ tìm kiếm truyền thống
Jacob Larse cho biết việc kết hợp tìm kiếm và LLM có thể dẫn đến các vấn đề như “đầu độc SEO” – kỹ thuật mà tin tặc thao túng trang web để đạt thứ hạng cao trong công cụ tìm kiếm nhưng lại chứa mã độc.
Google và các công cụ tìm kiếm khác đã áp dụng biện pháp phạt các trang sử dụng văn bản ẩn, hạ thấp thứ hạng hoặc loại bỏ chúng khỏi kết quả tìm kiếm. Tuy nhiên, ChatGPT chỉ mới bước vào lĩnh vực tìm kiếm nên chưa xây dựng đủ các biện pháp bảo vệ trước những kỹ thuật này.
Karsten Nohl nhấn mạnh: “ChatGPT đang phải đối mặt với các vấn đề mà Google và Microsoft Bing đã xử lý nhiều năm qua. Nhưng vì họ là người mới, khoảng cách để bắt kịp là rất lớn”.
OpenAI chưa đưa ra phản hồi chính thức về những vấn đề này, dù họ đã cảnh báo người dùng rằng “ChatGPT có thể mắc lỗi” qua tuyên bố miễn trừ trách nhiệm trên nền tảng.
Jacob Larsen kỳ vọng OpenAI sẽ nhanh chóng khắc phục các lỗ hổng trước khi triển khai hệ thống tìm kiếm rộng rãi. “Nhóm bảo mật AI của họ rất mạnh. Tôi tin rằng họ sẽ kiểm tra và xử lý nghiêm ngặt những vấn đề được nêu ra”, ông Larsen chia sẻ.
