Singapore ban hành khung quản trị về phòng ngừa rủi ro từ AI tác nhân
Singapore đã ban hành 'Khung quản trị mô hình AI cho AI tác nhân' (Model AI Governance Framework for Agentic AI) nhằm quản lý các rủi ro này và ngăn chặn các hậu quả ngoài ý muốn.
Khác với các hệ thống AI truyền thống, các AI tác nhân thế hệ mới có khả năng hiểu ngôn ngữ tự nhiên, suy luận và tự động hoàn thành nhiệm vụ thay mặt cho người dùng.
Năng lực của các hệ thống trí tuệ nhân tạo (AI) trong việc kết nối nhiều cơ sở dữ liệu và hoạt động độc lập đã làm nảy sinh những rủi ro mới như khả năng thực hiện các khoản thanh toán trái phép hoặc đánh cắp dữ liệu cá nhân.
Do đó, Singapore đã ban hành “Khung quản trị mô hình AI cho AI tác nhân” (Model AI Governance Framework for Agentic AI) nhằm quản lý các rủi ro này và ngăn chặn các hậu quả ngoài ý muốn.
Theo phóng viên TTXVN tại Singapore, khung quản trị mới do Cơ quan Phát triển Truyền thông Singapore (IMDA) công bố ngày 22/1.
Khác với các hệ thống AI truyền thống, các AI tác nhân thế hệ mới có khả năng hiểu ngôn ngữ tự nhiên, suy luận và tự động hoàn thành nhiệm vụ thay mặt cho người dùng. Các AI tác nhân bao gồm các trợ lý lập trình có thể tạo, kiểm thử và sửa lỗi mã nguồn thông qua các câu lệnh bằng ngôn ngữ tự nhiên.
IMDA cho hay dù các AI tác nhân có thể giúp tổ chức tự động hóa những công việc lặp lại và cho phép nhân sự tập trung vào các hoạt động “giá trị cao hơn," nhưng khả năng tiếp cận dữ liệu nhạy cảm và can thiệp vào môi trường số của chúng cũng kéo theo nhiều rủi ro mới.
Chẳng hạn, một AI tác nhân có thể đặt nhầm lịch hẹn khám bệnh, gây ảnh hưởng tiêu cực đến kết quả điều trị của bệnh nhân hoặc có thể thực hiện các hành động vượt quá thẩm quyền được cấp mà không có sự phê duyệt của con người.
Để giảm thiểu nguy cơ xảy ra các sự cố như vậy, Khung quản trị mô hình AI cho AI tác nhân khuyến nghị các tổ chức phải đặt ra giới hạn đối với số lượng công cụ và hệ thống mà mỗi AI tác nhân được phép truy cập. Ví dụ, một trợ lý lập trình có thể không cần được cấp quyền truy cập vào công cụ tìm kiếm trên Internet.
Phát biểu trong cuộc họp báo trực tuyến với truyền thông trong nước ngày 22/1, Bộ trưởng Phát triển Kỹ thuật số và Thông tin Singapore, bà Josephine Teo, cho biết khung quản trị mới được ban hành trong bối cảnh các tổ chức đang đẩy mạnh xây dựng cấu trúc cho các hệ thống AI tác nhân. Dù khung quản trị trên chưa hoàn thiện như mong muốn nhưng việc đưa ra hướng dẫn quy định vào thời điểm này vẫn tốt hơn là không có định hướng nào.
Cũng theo bà Josephine Teo, việc công bố khung quản trị này tại một diễn đàn toàn cầu cũng nhằm nâng cao nhận thức của các nhà cung cấp quốc tế về những chuẩn mực mà họ cần tuân thủ khi cung cấp dịch vụ tại Singapore.
Mặc dù năng lực của các AI tác nhân ngày càng được nâng cao nhưng khung quản trị trên nhấn mạnh rằng con người và các tổ chức vẫn phải chịu trách nhiệm đối với các hành động do AI thực hiện, thông qua việc phân định rõ ràng trách nhiệm.
IMDA cho biết khung quản trị mới được xây dựng trên cơ sở tham vấn ý kiến từ các cơ quan chính phủ và khu vực tư nhân, đồng thời kêu gọi tiếp tục đóng góp ý kiến và chia sẻ các nghiên cứu tình huống về việc triển khai an toàn các AI tác nhân.
Khung quản trị này được phát triển dựa trên phiên bản khung quản trị AI truyền thống đã được Singapore ban hành năm 2020 vốn đặt nền tảng cho việc sử dụng AI một cách có đạo đức và trách nhiệm.
Thông qua việc xây dựng nền tảng kiến thức chung trong khung mới, Singapore kỳ vọng việc triển khai AI tác nhân sẽ trở nên công bằng hơn giữa các doanh nghiệp, bao gồm cả các doanh nghiệp vừa và nhỏ./.
