Giải bài toán phân quyền khi ứng dụng AI trong doanh nghiệp

Theo các chuyên gia công nghệ, hệ thống phân quyền công nghệ thông tin truyền thống chủ yếu sử dụng phân quyền cứng dựa trên logic của cơ sở dữ liệu.

Ông Lê Minh Thanh - chuyên gia tư vấn giải pháp an toàn thông tin của CMC Telecom.

Tuy nhiên, AI (đặc biệt là các mô hình ngôn ngữ lớn - LLM) lại hoạt động giống như mạng nơ-ron thần kinh của con người. Điều này khiến mệnh lệnh "bạn không thể vào tài liệu này để đọc" đưa ra cho “nhân sự” AI đôi khi chỉ mang tính chất tương đối. Bởi lẽ AI không tư duy theo logic thông thường, nên vẫn luôn tồn tại xác suất AI vượt quyền và truy cập vào các tài liệu nhạy cảm nếu chỉ dựa vào những câu lệnh (prompt) đơn thuần.

Để khắc phục rủi ro này, các chuyên gia đến từ Công ty TNHH MangoAds đề xuất một kiến trúc bảo vệ đa lớp gồm lớp phân quyền cứng và lớp phân quyền mềm.

Lớp phân quyền cứng sử dụng các logic lập trình cứng để chặn quyền truy cập của AI vào các tài liệu nhạy cảm. Các hệ thống quản lý như RBAC (Role-Based Access Control) phân quyền dựa trên vai trò nhân viên trong tổ chức hoặc ABAC (Attribute-Based Access Control) phân quyền dựa trên các thuộc tính của người dùng, tài nguyên, hành động và ngữ cảnh sẽ hạn chế trường hợp AI vượt quyền, đảm bảo sự an toàn cho cơ sở dữ liệu gốc.

Còn lớp phân quyền mềm dựa trên các quy tắc (rules/roles) mà con người khai báo để hướng dẫn cách AI hoạt động và xử lý thông tin.

Trong khi đó, theo ông Lê Minh Thanh - chuyên gia tư vấn giải pháp an toàn thông tin của CMC Telecom, nguyên tắc sống còn khi vận hành mô hình AI là áp dụng phân quyền định danh và phân quyền tối thiểu. Nếu cấp quyền quá rộng, doanh nghiệp có thể phải đối mặt với tình trạng AI lấy thông tin nghiệp vụ của phòng ban này để trả lời cho câu hỏi của một phòng ban khác. Hậu quả là các câu trả lời của AI sẽ thiếu chính xác. Vì vậy, AI chỉ nên được truy cập những dữ liệu cần thiết, đúng với bối cảnh nghiệp vụ mà nó được giao.

Ông Thanh nhấn mạnh, luôn cần thực hiện nguyên tắc zero-trust và người dùng luôn phải nắm quyền quyết định cuối cùng để tránh mất kiểm soát AI.

Đặc biệt, trước khi triển khai AI vào thực tế, các doanh nghiệp được khuyến nghị phải đưa AI qua một môi trường thử nghiệm gọi là sandbox. Trong môi trường đóng gói này, doanh nghiệp có thể tùy ý đặt ra các thử nghiệm cấp quyền và kiểm duyệt các rủi ro trước khi áp dụng hệ thống.

Đối với các doanh nghiệp siêu nhỏ, nơi bộ máy vận hành chỉ có 1-2 người, việc một cá nhân nắm giữ quá nhiều quyền hạn hệ thống sẽ tạo ra rủi ro lớn khi giao việc cho AI. Trong trường hợp này, chuyên gia khuyến nghị cần phải phân rã các hạng mục công việc một cách rõ ràng giữa vai trò của người ra quyết định và người có sức ảnh hưởng trong tổ chức. Từ đó, AI mới có thể bám sát từng nhiệm vụ cụ thể để hỗ trợ kịp thời và an toàn.

Ứng dụng AI là một xu hướng không thể đảo ngược, tuy nhiên nó như một "con dao hai lưỡi" với lợi ích vô cùng lớn nhưng rủi ro không hề nhỏ, cần sự kiểm soát chặt chẽ từ con người.