Cảnh báo nguy cơ mất kiểm soát dữ liệu cá nhân khi trao quyền cho AI

Tuy nhiên, sự cố liên quan đến trợ lý AI Muse của Meta cho thấy việc cấp quyền truy cập quá rộng có thể khiến người dùng vô tình tiết lộ thông tin cá nhân, thậm chí tạo ra những tình huống mất an toàn ngoài dự kiến.

Cuối tháng 9 vừa qua, Matt Robb - một nhà sáng tạo nội dung tại Toronto (Canada) - sử dụng Muse để hỗ trợ bán bàn phím máy tính trên Facebook Marketplace. Trợ lý AI này đã tự thương lượng giá, chấp nhận đề nghị mua hàng và cung cấp địa chỉ nhà của Robb để người mua đến nhận hàng. Đáng lo ngại hơn, khi người mua tìm đến nhà vào tối muộn, Muse còn tự động gửi tin nhắn từ tài khoản của Robb như thể Robb đã chờ sẵn ở đó, trong khi thực tế anh không hề biết về cuộc hẹn này.

Meta giải thích việc tiết lộ địa chỉ xuất phát từ các quyền truy cập mà người dùng đã cấp khi kết nối Muse với Facebook Marketplace. Robb thừa nhận đã chọn chế độ “luôn cho phép” và đưa địa chỉ vào hướng dẫn chung cho trợ lý, vì nghĩ rằng AI sẽ hỏi ý kiến trước khi chia sẻ thông tin hoặc chấp nhận giao dịch. Trong một giao dịch khác, Muse thậm chí còn đề xuất mức giá thấp hơn 100 USD so với mức tối thiểu mà Robb đã đặt ra.

Những sự cố trên cho thấy sự khác biệt giữa chatbot thông thường và các tác nhân AI tự chủ. Nếu chatbot chủ yếu phản hồi từng yêu cầu, các tác nhân như Muse có thể chủ động theo dõi thông tin, phối hợp ứng dụng và thực hiện nhiều bước công việc ngay cả khi người dùng không trực tiếp giám sát. OpenAI cũng đã giới thiệu các tác nhân AI hoạt động liên tục mang tên Dots, có khả năng phối hợp với những nền tảng làm việc như Slack và Microsoft Teams.

Theo bà Veronica Rivera - chuyên gia tại Trường An ninh mạng và quyền riêng tư thuộc Viện Công nghệ Georgia (Mỹ), có thể hình dung việc sử dụng trợ lý AI như giao chìa khóa và danh sách công việc cho người khác. Công cụ càng được trao nhiều quyền thì càng có thể hỗ trợ hiệu quả, nhưng nguy cơ cũng tăng lên nếu các quyền đó vượt quá nhu cầu thực tế.

Ông Ebrahim Bagheri - Giáo sư tại Khoa Thông tin thuộc Đại học Toronto (Canada), lưu ý rằng thu hồi quyền truy cập không đồng nghĩa với việc xóa những dữ liệu AI đã tiếp nhận. Chẳng hạn, một trợ lý được phép truy cập tài khoản thanh toán có thể thu thập thông tin về các giao dịch trước đó; việc ngắt kết nối sau này không bảo đảm dữ liệu đã xử lý sẽ tự động bị xóa. Cách các nhà phát triển lưu trữ và quản lý thông tin lịch sử cũng chưa phải lúc nào được làm rõ.

Meta và OpenAI đều công bố các chính sách bảo vệ quyền riêng tư và cung cấp công cụ quản lý dữ liệu. Người dùng Muse có thể xóa lịch sử tin nhắn và những thông tin khác; với Dots, người dùng có thể tắt chức năng chia sẻ bộ nhớ với ChatGPT. Tuy nhiên, các lựa chọn này không đồng nghĩa với việc mọi thông tin đã được tiếp nhận trước đó đều tự động biến mất. Meta cũng thừa nhận Muse vẫn có thể mắc lỗi hoặc thực hiện hành động ngoài dự kiến.

Lo ngại về quyền truy cập của AI còn xuất hiện trên máy tính cá nhân. Đầu tháng này, Apple thông báo sẽ bổ sung các cơ chế kiểm soát trên hệ điều hành Mac trước nguy cơ trợ lý AI tiếp cận thư điện tử, tin nhắn và lịch sử duyệt web vượt quá phạm vi người dùng nhận thức. Động thái này diễn ra sau khi Jason Aten, cây bút của tạp chí Inc., phản ánh Muse đã theo dõi thông báo trên máy Mac của ông, trong đó có tin nhắn. Meta cho biết việc tích hợp đòi hỏi người dùng bật tính năng “Full Disk Access” và kết nối ứng dụng Tin nhắn, trong khi Aten nói ông không cấp các quyền đó.

Các chuyên gia cảnh báo rủi ro quyền riêng tư không chỉ ảnh hưởng đến người trực tiếp sử dụng AI. Khi trợ lý được phép đọc thư điện tử hoặc tin nhắn, dữ liệu tiếp cận còn có thể chứa thông tin do bạn bè, người thân và đồng nghiệp chia sẻ, dù những người này chưa đồng ý cung cấp dữ liệu cho AI. Theo bà Rivera, quyết định cấp quyền của một cá nhân vì vậy có thể tác động đến quyền riêng tư của nhiều người khác.

Sự phát triển của các trợ lý AI tự chủ đặt ra yêu cầu cân bằng giữa tiện ích và quyền kiểm soát dữ liệu. Các chuyên gia cho rằng người dùng cần cân nhắc kỹ quyền truy cập trước khi kết nối ứng dụng, trong khi nhà phát triển cần thiết lập giới hạn rõ ràng đối với việc chia sẻ thông tin và thực hiện giao dịch, đồng thời minh bạch về cách lưu trữ, sử dụng và xóa dữ liệu. Đây sẽ là những điều kiện quan trọng để hạn chế rủi ro khi AI ngày càng được trao quyền hành động thay con người.