Kỷ nguyên AI có toàn quyền truy cập: Nỗi lo lớn cho dữ liệu cá nhân

Trong nhiều năm, cái giá người dùng phải trả khi sử dụng các dịch vụ miễn phí từ Google, Facebook, Microsoft và các hãng công nghệ lớn khác chính là dữ liệu cá nhân của mình.

Việc người dùng đưa các hoạt động hằng ngày lên môi trường đám mây và sử dụng các dịch vụ miễn phí thực sự mang lại nhiều tiện lợi, chẳng hạn lưu trữ dữ liệu dễ dàng, đồng bộ giữa nhiều thiết bị, làm việc và liên lạc nhanh hơn.

Tuy nhiên, thông tin cá nhân của người dùng, từ email, lịch làm việc, danh bạ, vị trí, thói quen sử dụng, cho đến ảnh và nội dung trao đổi riêng tư, đều được lưu trữ và quản lý bởi các hãng công nghệ lớn, vốn thường tìm cách kiếm tiền từ dữ liệu đó.

Giờ đây, thế hệ AI tạo sinh tiếp theo nhiều khả năng sẽ muốn tiếp cận dữ liệu của bạn nhiều hơn bao giờ hết.

Trong hai năm qua, các công cụ AI tạo sinh như ChatGPT của OpenAI và Google Gemini đã phát triển vượt xa hơn chatbot chỉ dựa trên văn bản như thuở ban đầu. Thay vào đó, các hãng đang ngày càng xây dựng và thúc đẩy việc áp dụng tác tử AI, hứa hẹn có thể thực hiện các hành động và hoàn thành nhiệm vụ thay bạn.

Vấn đề là gì? Để tận dụng tối đa khả năng của tác tử AI, bạn cần cấp cho chúng quyền truy cập vào hệ thống và dữ liệu cá nhân. Nếu như phần lớn tranh cãi ban đầu về các mô hình ngôn ngữ lớn xoay quanh việc sao chép dữ liệu có bản quyền trên mạng, việc các tác tử AI tiếp cận dữ liệu cá nhân của bạn nhiều khả năng sẽ gây ra loạt vấn đề mới.

“Để có đầy đủ chức năng và xử lý các ứng dụng, tác tử AI thường phải được cấp quyền truy cập rất sâu vào thiết bị, thậm chí ở mức hệ điều hành”, Harry Farmer, nhà nghiên cứu cấp cao tại Viện Ada Lovelace, cho biết. Điều này có nghĩa là tác tử AI không chỉ hoạt động như ứng dụng thông thường mà còn có khả năng tiếp cận và tương tác với nhiều phần quan trọng của hệ thống.

Harry Farmer chuyên nghiên cứu về tác động của trợ lý AI, phát hiện ra rằng chúng có thể gây ra mối đe dọa nghiêm trọng với an ninh mạng và quyền riêng tư. Theo ông, cá nhân hóa chatbot hay trợ lý AI luôn đi kèm đánh đổi về dữ liệu, bởi để hoạt động, chúng cần rất nhiều thông tin về bạn.

Dù chưa có định nghĩa chính xác rằng tác tử AI thực sự là gì, nó thường được coi là AI tạo sinh có mức độ tự chủ nhất định. Tác tử AI được thiết kế để tự động quan sát, suy luận và thực hiện hành động nhằm đạt mục tiêu đã định. Khác với ứng dụng AI tĩnh chỉ trả lời khi có lệnh, tác tử AI có khả năng nhận dữ liệu hoặc tín hiệu từ môi trường, phân tích và lên kế hoạch dựa trên kiến thức hoặc thuật toán có sẵn, chủ động thực hiện các bước tiếp theo, thậm chí phối hợp với con người hoặc các tác tử khác để hoàn thành nhiệm vụ. Ví dụ, một tác tử AI có thể liên tục quét email, tự động soạn và gửi phản hồi phù hợp.

Hiện tại, các tác tử AI, gồm cả trình duyệt AI, có thể điều khiển thiết bị và lướt web thay bạn, đặt vé máy bay, tiến hành nghiên cứu hoặc thêm mặt hàng vào giỏ hàng. Các tác tử AI hiện tại vẫn còn nhiều lỗi và đôi khi không thể hoàn thành các nhiệm vụ được giao. Thế nhưng, các hãng công nghệ đang đặt cược rằng tác tử AI sẽ thay đổi căn bản công việc của hàng triệu người khi chúng trở nên mạnh mẽ hơn.

Cuộc đua thu thập thông tin ngày càng khốc liệt

Phần lớn giá trị của các tác tử AI đến từ khả năng truy cập dữ liệu. Nếu muốn tác tử AI có thể nhắc nhở và quản lý công việc cá nhân, bạn buộc phải cấp cho nó quyền truy cập vào lịch cá nhân, tin nhắn, email và nhiều dữ liệu khác.

Một số sản phẩm và tính năng mới đã cho thấy các tác tử AI có thể được trao quyền truy cập sâu đến mức nào. Với doanh nghiệp, một số tác tử AI được phép đọc mã nguồn, email, cơ sở dữ liệu, tin nhắn trên Slack hay các file lưu trên Google Drive. Đáng chú ý, tính năng Recall gây nhiều tranh cãi của Microsoft còn tự động chụp ảnh màn hình máy tính người dùng sau vài giây một lần, để người dùng có thể tìm lại mọi thao tác đã thực hiện. Trong khi đó, Tinder phát triển một tính năng AI có khả năng quét ảnh trong smartphone nhằm hiểu rõ hơn sở thích và tính cách của người dùng.

Carissa Véliz, phó giáo sư tại Đại học Oxford, nói hầu hết người dùng không có cách nào thực sự kiểm tra xem AI hay các hãng công nghệ có xử lý dữ liệu theo cách mà họ tuyên bố hay không. “Các công ty này rất tùy tiện trong việc sử dụng dữ liệu. Họ nhiều lần cho thấy không thực sự tôn trọng quyền riêng tư”, Carissa Véliz nhận xét.

Với sự trỗi dậy của tác tử AI, làn sóng thu thập dữ liệu tiếp theo sẽ đi sâu hơn nhiều vào đời sống người dùng - Ảnh: Internet

Ngành công nghiệp AI hiện đại chưa thực sự tôn trọng việc bảo vệ quyền dữ liệu cá nhân của người dùng. Sau những đột phá về học máy và học sâu vào đầu những năm 2010 cho thấy các hệ thống có thể tạo ra kết quả tốt hơn khi được huấn luyện dựa trên nhiều dữ liệu hơn, cuộc đua thu thập thông tin càng trở nên khốc liệt.

Các công ty nhận dạng khuôn mặt, chẳng hạn Clearview, đã thu thập hàng triệu bức ảnh của nhiều người từ khắp nơi trên internet. Google từng bị chỉ trích vì chỉ trả 5 USD cho mỗi người tham gia quét khuôn mặt, mức rất thấp so với giá trị và độ nhạy cảm của dữ liệu sinh trắc học.

Nghiêm trọng hơn, một số cơ quan chính phủ còn bị cáo buộc sử dụng hình ảnh những nhóm người rất dễ bị tổn thương như trẻ em bị bóc lột, người nộp hồ sơ xin visa (thị thực) và thậm chí cả người đã qua đời để kiểm tra, huấn luyện hoặc đánh giá hệ thống AI của họ. Điều này cho thấy cách thu thập và sử dụng dữ liệu trong ngành AI tồn tại nhiều vấn đề về quyền riêng tư và đạo đức.

Huấn luyện AI trên dữ liệu người dùng

Vài năm qua, các công ty AI khát dữ liệu đã thu thập lượng lớn thông tin từ web và sao chép hàng triệu cuốn sách, thường là không được phép hoặc không trả tiền, để xây dựng các mô hình ngôn ngữ lớn và hệ thống AI tạo sinh mà giờ đây đang mở rộng thành tác tử AI.

Khi phần lớn dữ liệu từ web đã bị khai thác, nhiều công ty mặc định huấn luyện AI trên dữ liệu người dùng. Điều này có nghĩa là dữ liệu của bạn tự động bị sử dụng, trừ khi bạn chủ động vào cài đặt để từ chối, chứ không phải là được hỏi ý kiến và cho phép ngay từ đầu.

Dù có một số hệ thống AI chú trọng quyền riêng tư và vài biện pháp bảo vệ được áp dụng, phần lớn xử lý dữ liệu của các tác tử AI sẽ diễn ra trên đám mây. Việc dữ liệu liên tục di chuyển giữa các hệ thống khác nhau có thể làm phát sinh rủi ro.

Một nghiên cứu do các cơ quan quản lý dữ liệu châu Âu ủy nhiệm đã chỉ ra hàng loạt rủi ro về quyền riêng tư liên quan đến tác tử AI, gồm dữ liệu nhạy cảm có thể bị rò rỉ, lạm dụng hoặc đánh cắp; thông tin riêng tư có thể bị gửi sang các hệ thống khác mà không có biện pháp bảo vệ đầy đủ; việc xử lý dữ liệu có thể vi phạm các quy định về quyền riêng tư.

“Ngay cả khi bạn thực sự đồng ý và được thông báo đầy đủ về cách dữ liệu của mình được sử dụng, những người mà bạn tương tác có thể không đồng ý. Nếu hệ thống truy cập vào danh bạ, email, lịch của bạn, và bạn gọi cho ai đó, dữ liệu người đó cũng bị truy cập dù không mong muốn”, Carissa Véliz lý giải.

Hành vi của các tác tử AI cũng có thể đe dọa biện pháp bảo mật hiện có. Những cuộc tấn công chèn lệnh, trong đó các chỉ dẫn độc hại được đưa vào văn bản mà mô hình AI đọc hoặc xử lý, có thể dẫn đến rò rỉ dữ liệu. Nếu được cấp quyền truy cập sâu vào thiết bị, tác tử AI sẽ gây ra mối đe dọa cho tất cả dữ liệu có trên đó.

Meredith Whittaker, Chủ tịch Signal Foundation - tổ chức điều hành ứng dụng nhắn tin mã hóa Signal, cảnh báo rằng các hãng công nghệ đang thúc đẩy một tương lai nơi các tác tử AI có thể xâm nhập sâu vào hệ điều hành và làm suy yếu quyền riêng tư, dù điều này chưa xảy ra hoàn toàn.

Theo bà Meredith Whittaker, nếu được phép truy cập toàn bộ thiết bị hoặc hệ điều hành, AI sẽ trở thành mối đe dọa nghiêm trọng với Signal cũng như quyền riêng tư của các ứng dụng nói chung. Vì vậy, bà kêu gọi cần có cơ chế rõ ràng để nhà phát triển có thể tuyên bố dứt khoát rằng tác tử AI không được phép can thiệp hay truy cập vào ứng dụng của họ.

Trong khi đó, Harry Farmer nói nhiều người đã gắn bó rất sâu với các chatbot AI hiện nay và trong quá trình đó có thể đã chia sẻ cho chúng một lượng lớn dữ liệu nhạy cảm. Điều này khiến chatbot AI khác hẳn các công nghệ trước đây.

Ông cảnh báo người dùng cần hết sức thận trọng với sự “đánh đổi” khi cung cấp dữ liệu cá nhân cho chatbot AI như vậy, bởi mô hình kinh doanh mà các công ty tạo ra chúng đang sử dụng hôm nay có thể sẽ thay đổi trong tương lai. Khi đó, dữ liệu của bạn có thể bị khai thác theo những cách khác.

Sơn Vân