Đừng để 'AI dễ thương' đánh lừa

Tác nhân AI với thiết kế dễ thương có thể khiến người dùng mất cảnh giác khi cấp quyền sử dụng dữ liệu. Ảnh: Reuters.

Meta và OpenAI đang đẩy mạnh thế hệ trợ lý AI giao diện thân thiện hơn. Các công cụ này được thiết kế với nhân vật hoạt hình, tên riêng và phong cách gần giống “thú cưng số”.

Meta có Muse cùng linh vật Jolly. OpenAI cũng giới thiệu Dots với nhiều hình dạng, màu sắc và giọng nói khác nhau.

Cách tiếp cận này giúp tác nhân AI bớt cảm giác xa lạ. Tuy nhiên, phía sau giao diện dễ thương là hệ thống có thể được cấp quyền truy cập vào nhiều phần quan trọng trong dữ liệu cá nhân của người dùng.

Để hoạt động đầy đủ, các tác nhân AI có thể cần kết nối email, tài liệu, ứng dụng công việc, tin nhắn hoặc thông tin thanh toán. Nếu tài khoản chứa giấy tờ tùy thân, hồ sơ y tế hay tài liệu thuế, chúng cũng có thể nhìn thấy những dữ liệu này khi được cấp quyền phù hợp.

Một trường hợp nổi bật nhắc tới gần đây là YouTuber công nghệ Matt Robb. Robb yêu cầu Muse hỗ trợ bán một số món đồ trên Facebook Marketplace. Sau đó, tác nhân AI của Meta đã gửi địa chỉ nhà của anh cho người mua.

Ban đầu, Robb cho rằng Muse tự ý chia sẻ thông tin. Tuy nhiên, anh sau đó phát hiện mình đã vô tình cấp quyền nhiều hơn dự kiến. Trường hợp này cho thấy rủi ro không nhất thiết đến từ việc AI hoạt động sai. Vấn đề có thể xuất hiện khi người dùng không hiểu đầy đủ phạm vi của quyền vừa cấp.

David Singleton, đại diện Meta cho biết tính năng đồng bộ tin nhắn là tùy chọn người dùng phải chủ động bật. Hiện tại, gã khổng lồ mạng xã hội đang sử dụng Jolly thường xuyên trong các bài đăng quảng bá Muse. Linh vật này xuất hiện trong hình ảnh, video và cả các bài giải thích tính năng.

OpenAI cũng chọn cách tương tự với Dots. Video giới thiệu cho thấy người dùng trò chuyện với các nhân vật nhỏ nhiều màu sắc. Một số có ngoại hình giống con rối hoặc nhân vật hoạt hình.

Một tác nhân có thể đặt chỗ, tạo danh sách phát, theo dõi giá hoặc xử lý nhiều tác vụ thay người dùng. Khả năng này đồng nghĩa công cụ cần tiếp cận nhiều dữ liệu và dịch vụ hơn chatbot thông thường.

Engadget cho rằng người dùng nên thận trọng khi kết nối tài khoản và cấp quyền lâu dài. Việc một tác nhân AI hoạt động đúng thiết kế vẫn có thể dẫn đến kết quả ngoài dự kiến nếu phạm vi quyền được cấp quá rộng.