Agentic AI: Từ kỳ vọng đến yêu cầu kiểm soát

Agentic AI được kỳ vọng sẽ giúp các tổ chức chuyển đổi quy trình kinh doanh ở mức độ sâu rộng hơn. Ảnh: ST

Bước tiến mới của trí tuệ nhân tạo tự chủ

Quá trình chuyển dịch từ Mô hình ngôn ngữ lớn (Large Language Models - LLMs) sang Agentic AI đang tạo ra một bước phát triển mới trong cách thức ứng dụng trí tuệ nhân tạo của các tổ chức vào hoạt động sản xuất, kinh doanh và quản trị. Nếu như các ứng dụng AI thế hệ đầu chủ yếu tập trung vào truy xuất và cung cấp thông tin thì Agentic AI được thiết kế để vận hành độc lập hơn. Các hệ thống này có khả năng lập kế hoạch, sử dụng các công cụ bên ngoài và thích ứng với phản hồi theo thời gian thực nhằm đạt được các mục tiêu kinh doanh cụ thể.

Sự hào hứng ban đầu đối với LLMs và tiềm năng chuyển đổi hoạt động kinh doanh của công nghệ này phần nào chưa phản ánh đầy đủ thực tế triển khai. Trong nhiều trường hợp, việc đưa các mô hình ngôn ngữ lớn vào môi trường vận hành thực tiễn vẫn đòi hỏi sự tham gia đáng kể của con người. Đây là một trong những nguyên nhân tạo ra khoảng cách giữa kỳ vọng và hiệu quả ứng dụng thực tế.

Trong bối cảnh đó, Agentic AI đang mở ra một làn sóng cơ hội mới, cho phép chuyển đổi quy trình kinh doanh ở mức độ tinh vi hơn. Đây là bước tiến đáng kể so với các mô hình truyền thống như cây quyết định hoặc các mạng nơ-ron thế hệ đầu.

Điểm khác biệt cốt lõi nằm ở khả năng tự chủ. Trong khi AI truyền thống được huấn luyện trong những tham số xác định trước để thực hiện các nhiệm vụ cụ thể và thường thiếu khả năng thích ứng hoặc bộ nhớ ngữ cảnh, Agentic AI được thiết kế như những thực thể tự chủ có khả năng theo đuổi mục tiêu một cách độc lập.

Các hệ thống này không chỉ đưa ra phản hồi mà còn có thể suy luận, xây dựng kế hoạch thực hiện, lựa chọn công cụ phù hợp, đồng thời điều chỉnh hành động dựa trên phản hồi thời gian thực nhằm đạt được kết quả mong muốn.

Các chuyên gia cũng lưu ý cần phân biệt rõ giữa khái niệm “Agentic AI” và “tác nhân AI” (AI agents). Mặc dù hai thuật ngữ thường được sử dụng thay thế cho nhau, song bản chất của chúng không hoàn toàn giống nhau. Theo đó, tác nhân AI là một thành phần hoặc thực thể phần mềm đơn lẻ được thiết kế để thực hiện một nhiệm vụ cụ thể. Ví dụ điển hình là các chatbot hoạt động theo những kịch bản được lập trình sẵn. Dù có khả năng tự động hóa, các tác nhân này vẫn bị giới hạn bởi logic cố định đã được mã hóa và không thể tự cải thiện hoặc thích ứng linh hoạt.

Trong khi đó, Agentic AI là hệ thống tổng thể vận hành dựa trên mục tiêu. Hệ thống này đóng vai trò như một bộ điều phối, triển khai và phối hợp nhiều tác nhân AI khác nhau nhằm đạt được những kết quả phức tạp ở cấp độ cao hơn, thông thường chỉ cần mức độ giám sát tối thiểu từ con người.

Xác thực liên tục để bảo đảm an toàn và trách nhiệm giải trình

Nhiều chuyên gia công nghệ cảnh báo, chính khả năng tự chủ ngày càng lớn của Agentic AI sẽ làm phát sinh những biến số mới liên quan đến rủi ro và trách nhiệm giải trình. Khác với các hệ thống AI truyền thống thường hoạt động trong những giới hạn và tham số được xác định rõ, Agentic AI vận hành như một bộ điều phối tự chủ, phối hợp nhiều tác nhân thành phần để hoàn thành các nhiệm vụ gồm nhiều bước nhằm đạt được mục tiêu đề ra.

Mô hình này giúp nâng cao hiệu quả vận hành nhưng đồng thời cũng tạo ra các kết quả mang tính “phi xác định” (nondeterministic). Điều đó có nghĩa là hệ thống có thể lựa chọn nhiều con đường khác nhau để đi đến cùng một kết quả. Nếu thiếu một khuôn khổ giám sát phù hợp, tính tự chủ này có thể dẫn tới hiện tượng “trôi lệch hành vi” (behavioural drift), trong đó, hiệu suất hoặc logic vận hành của hệ thống thay đổi dần theo thời gian. Những thay đổi này có thể tạo ra các sai sót mà các phương pháp giám sát thông thường khó phát hiện. Vì vậy, các tổ chức cần vượt ra ngoài phương thức kiểm thử phần mềm truyền thống để chuyển sang mô hình xác thực và giám sát liên tục.

Do tính phức tạp vốn có của Agentic AI, hoạt động xác thực cần được thực hiện theo cách tiếp cận kết hợp, đánh giá đồng thời cả kiến trúc tổng thể của hệ thống Agentic AI và từng thành phần riêng lẻ. Cách tiếp cận này giúp xem xét toàn diện quy trình ra quyết định, các kết nối bên ngoài và khả năng chống chịu của hệ thống, đồng thời bảo đảm từng thành phần hoạt động đúng mục đích khi được đánh giá độc lập.

Để bảo đảm tính tin cậy và tuân thủ, chuyên gia cho rằng, hoạt động xác thực cần được tích hợp xuyên suốt từ giai đoạn phát triển đến quá trình vận hành. Trong đó, việc đánh giá cần tập trung vào nhiều nội dung trọng yếu như hiệu suất và hiệu quả hoạt động; tính chính xác và độ tin cậy của thông tin; quỹ đạo ra quyết định của tác nhân AI; các yêu cầu về an toàn, an ninh và bảo mật dữ liệu.

Bên cạnh đó, cơ chế “Con người tham gia trong vòng kiểm soát” (Human-in-the-Loop - HIL) tiếp tục được xem là lớp bảo vệ quan trọng đối với những quyết định có mức độ ảnh hưởng lớn. Việc duy trì sự giám sát của con người không chỉ giúp xử lý các tình huống khó dự đoán mà còn tạo ra vòng phản hồi phục vụ quá trình cải tiến liên tục.

Một nội dung đáng chú ý khác là xu hướng chuyển từ kiểm thử tĩnh sang khả năng quan sát theo thời gian thực. Khác với phần mềm truyền thống, Agentic AI đòi hỏi phải được giám sát liên tục để kịp thời phát hiện những rủi ro như hiện tượng ảo giác AI hoặc các hành vi vi phạm chính sách ngay khi chúng phát sinh.

Do đó, việc triển khai các tác nhân giám sát hoặc tác nhân đánh giá để theo dõi hoạt động của các tác nhân khác có thể giúp tổ chức ngăn chặn lỗi trước khi ảnh hưởng đến người dùng cuối. Đồng thời, cách tiếp cận này còn tạo ra dấu vết kiểm toán có thể xác minh, đáp ứng các yêu cầu quản lý ngày càng thay đổi và góp phần bảo vệ khoản đầu tư của tổ chức.

Việc hoạt động xác thực được tích hợp vào cốt lõi của vận hành kỹ thuật, các tổ chức sẽ có cơ sở để triển khai những hệ thống tự động với mức độ tin cậy cao hơn, bảo đảm hệ thống hoạt động an toàn, đáng tin cậy và phù hợp với các mục tiêu dài hạn./.

(Theo deloitte.com)