Agentic AI tăng tốc, hạ tầng doanh nghiệp chịu sức ép chuyển đổi

Ngày 28.10, Intel công bố nghiên cứu do tổ chức dữ liệu quốc tế IDC phối hợp thực hiện, cho thấy Agentic AI đang làm thay đổi cách doanh nghiệp tiếp cận hạ tầng công nghệ thông tin (CNTT). Khi AI chuyển từ trả lời câu hỏi sang tự thực hiện những nhiệm vụ nhiều bước, yêu cầu đối với năng lực xử lý, mạng và phân bổ tài nguyên cũng tăng lên.

Khảo sát ghi nhận 89% người ra quyết định CNTT đánh giá Agentic AI sẽ giữ vai trò trọng yếu trong 12-24 tháng tới. Tuy nhiên, chỉ 56% tổ chức cho biết được cấp ngân sách đầy đủ hoặc thỏa đáng cho hạ tầng phục vụ công nghệ này. Khoảng cách giữa mức độ ưu tiên và khả năng đầu tư cho thấy doanh nghiệp còn nhiều việc phải làm trước khi đưa AI vào vận hành trên diện rộng.

Khác với mô hình AI truyền thống chủ yếu tiếp nhận câu lệnh rồi tạo phản hồi, một tác nhân (agent) AI trong doanh nghiệp có thể phải liên tục truy xuất dữ liệu, kích hoạt mô hình, gọi ứng dụng nghiệp vụ, thực thi mã và kiểm tra chính sách an ninh trước khi hoàn thành nhiệm vụ. Chuỗi thao tác lặp lại khiến hiệu quả không còn phụ thuộc vào riêng một mô hình hay bộ xử lý, mà vào khả năng phối hợp của toàn hệ thống.

Agentic AI đang bứt tốc, đòi hỏi hạ tầng doanh nghiệp phải kịp thời chuyển mình. Ảnh minh họa.

Đưa AI đến nơi dữ liệu đang được lưu trữ

Theo nghiên cứu, 55% người tham gia khảo sát duy trì cách tiếp cận cân bằng giữa hạ tầng CNTT nội bộ và đám mây công cộng, trong khi 38% chủ yếu hoặc hoàn toàn ưu tiên hệ thống nội bộ. Đáng chú ý, 45% xác định hiện đại hóa hoặc hợp nhất hạ tầng trung tâm dữ liệu là ưu tiên CNTT hàng đầu trong năm 2026, bên cạnh bảo mật, tuân thủ và khả năng phục hồi.

Những lựa chọn này phản ánh yêu cầu thực tế của doanh nghiệp. Ứng dụng nghiệp vụ và dữ liệu độc quyền thường nằm trên nhiều hệ thống khác nhau. Đưa toàn bộ dữ liệu lên đám mây không phải lúc nào cũng phù hợp, bởi doanh nghiệp còn phải tính đến độ trễ, chi phí băng thông, an ninh, chủ quyền dữ liệu và quy định pháp lý.

Vì vậy, mô hình AI lai (hybrid AI), kết hợp hạ tầng nội bộ với đám mây, đang trở thành hướng tiếp cận đáng chú ý. Thay vì buộc dữ liệu di chuyển đến nơi xử lý, doanh nghiệp có thể bố trí năng lực AI phù hợp với vị trí dữ liệu và yêu cầu của từng tác vụ.

Một vấn đề khác là cách phân bổ năng lực tính toán. Khảo sát IDC cho thấy 27% người mua xem GPU là yếu tố quyết định hiệu năng, 23% coi trọng CPU, trong khi khoảng một nửa cho rằng vai trò của hai loại bộ xử lý phụ thuộc vào từng tình huống cụ thể.

Với Agentic AI, một tác vụ có thể luân chuyển giữa suy luận, truy xuất cơ sở dữ liệu vector, tạo vector nhúng, điều phối vi dịch vụ và gọi giao diện lập trình ứng dụng (API). Vì thế, chỉ tăng số lượng GPU chưa chắc mang lại hiệu quả tương ứng nếu những thành phần còn lại không đáp ứng được yêu cầu.

Khoảng 40% người mua ưu tiên máy chủ tiêu chuẩn có khả năng tăng tốc ma trận, vector hoặc hỗ trợ thẻ cắm PCIe. Xu hướng này cho thấy doanh nghiệp cần phối hợp CPU, GPU và các bộ tăng tốc chuyên dụng, thay vì phụ thuộc vào một loại phần cứng.

Intel cho biết dòng vi xử lý Xeon được thiết kế để hỗ trợ cách tiếp cận đó. Nền tảng Performance-core tích hợp tính năng tăng tốc ma trận và vector, trong khi Efficient-core mật độ cao hướng đến mở rộng năng lực điều phối. Theo định hướng của hãng, doanh nghiệp có thể khai thác các khả năng này mà không nhất thiết phải tái cấu trúc toàn bộ trung tâm dữ liệu.

Dù vậy, bài toán quan trọng vẫn là hiệu quả tổng thể: hệ thống cần hoàn thành công việc với chi phí hợp lý, thay vì chỉ tối đa hóa số lượng phép tính hay token được xử lý.

x86 và lợi thế từ hạ tầng sẵn có

Với nhiều doanh nghiệp, triển khai AI còn liên quan đến chi phí chuyển đổi. Họ đã đầu tư nhiều năm vào hệ thống x86, cùng các ứng dụng, dữ liệu và quy trình quản trị hiện hữu. Xây dựng một hạ tầng AI tách biệt có thể làm tăng độ phức tạp trong tích hợp và vận hành.

Theo số liệu IDC được Intel công bố, mức độ phù hợp lý thuyết của x86 và Arm đối với Agentic AI gần tương đương, lần lượt đạt 87,5% và 87,2%. Tuy nhiên, khi đánh giá triển khai thực tế, x86 dẫn đầu ở 9 trong 12 tiêu chí.

Một số khác biệt đáng chú ý nằm ở tính tương thích phần mềm, với tỷ lệ 88% dành cho x86 và 80% cho Arm; khả năng mở rộng đạt 89% so với 81%; độ tin cậy và phục hồi đạt 88% so với 82%. X86 cũng dẫn trước về mức độ phổ biến hiện tại, 88% so với 77%, và chiều sâu chuyên môn kỹ thuật, 92% so với 83%.

Ở chiều ngược lại, Arm có lợi thế về giá thành, hiệu quả năng lượng và mức độ hài lòng theo khảo sát. Các số liệu cho thấy lựa chọn kiến trúc không chỉ phụ thuộc vào thông số phần cứng, mà còn liên quan đến khả năng tương thích, vận hành và mở rộng trong hệ thống doanh nghiệp.

Intel định hướng tận dụng nền tảng Xeon để đưa năng lực AI đến gần dữ liệu nội bộ, đồng thời tối ưu các khung phần mềm nguồn mở như PyTorch, vLLM và OpenVINO. Cách tiếp cận này nhằm duy trì tính linh hoạt, hạn chế sự phụ thuộc vào kiến trúc độc quyền và tận dụng hạ tầng hiện có.

Khi Agentic AI phát triển, CPU vẫn có vai trò trong điều phối, thực thi ứng dụng, truy xuất dữ liệu, bảo mật và kết nối các công cụ; GPU cùng những bộ tăng tốc khác đảm nhiệm các tác vụ cần năng lực tính toán chuyên biệt...