Kiến trúc NPU Hexagon mới trên chip Snapdragon 8 Elite Gen 6 Pro tối ưu cho kỷ nguyên Agent AI

Qualcomm vừa công bố các chi tiết kỹ thuật ban đầu về bộ xử lý thần kinh NPU Hexagon thế hệ mới, dự kiến tích hợp trên nền tảng di động cao cấp Snapdragon 8 Elite Gen 6 Pro. Động thái này diễn ra trước thềm Hội nghị thượng đỉnh Snapdragon diễn ra vào ngày 22 tháng 9, tập trung giải quyết bài toán hiệu năng và mức tiêu thụ năng lượng cho thế hệ trí tuệ nhân tạo tác nhân (Agent-AI) ngay trên thiết bị.

Snapdragon 8 Elite Gen 6 Pro là SoC cao cấp tiếp theo của Qualcomm

Kiến trúc phần cứng thích ứng với kỷ nguyên Agent-AI

Agent-AI hay trí tuệ nhân tạo dựa trên tác nhân là xu hướng công nghệ mới, nơi các mô hình ngôn ngữ không chỉ phản hồi thụ động mà còn chủ động thực thi chuỗi hành động phức tạp theo ngữ cảnh người dùng. Để xử lý khối lượng tính toán khổng lồ này, Qualcomm đã tái thiết kế khối NPU Hexagon với sự xuất hiện của bộ tăng tốc Element Accelerator, được tùy biến chuyên sâu cho các tác vụ chuyển đổi dữ liệu của mô hình AI tạo sinh hiện đại.

Bên cạnh vi kiến trúc tính toán mới, dung lượng bộ nhớ chia sẻ trên vi xử lý cũng được Qualcomm tăng thêm 50%. Việc mở rộng bộ nhớ đệm này cho phép hệ thống lưu trữ các tham số mô hình được truy cập thường xuyên ở khoảng cách vật lý gần NPU nhất có thể. Giải pháp này trực tiếp giải quyết hiện tượng nghẽn cổ chai băng thông khi thiết bị phải tiếp nhận các chuỗi lệnh dài hoặc xử lý nhiều tác vụ đồng thời.

Snapdragon 8 Elite Gen 6 Pro có NPU siêu mạnh

Tăng tốc xử lý mô hình INT4 và cấu trúc Mixture-of-Experts

Đột phá đáng chú ý tiếp theo trên NPU Hexagon của Snapdragon 8 Elite Gen 6 Pro là khả năng tăng tốc độ điền trước (prefill speed) lên đến 50% đối với các mô hình lượng tử hóa INT4. Giai đoạn điền trước đóng vai trò then chốt trong việc phân tích ngữ cảnh ban đầu của câu lệnh; do đó, việc rút ngắn một nửa thời gian tiền xử lý sẽ giúp các trợ lý ảo thông minh phản hồi gần như tức thì.

Ngoài ra, phần cứng mới được tối ưu hóa đặc biệt cho các mô hình dạng Mixture-of-Experts (MoE). Thay vì kích hoạt toàn bộ mạng lưới nơ-ron cho mọi câu hỏi, cấu trúc MoE chỉ vận hành một nhóm nhỏ chuyên gia tham số cho mỗi token dữ liệu. Sự phối hợp đồng bộ giữa các tập lệnh mở rộng vô hướng (scalar), vectơ (vector) và ma trận (matrix) giúp nền tảng duy trì thông lượng tính toán cao nhưng vẫn tối ưu hóa điện năng tiêu thụ trên các thiết bị di động.

Tổng hợp nâng cấp kỹ thuật chính trên NPU Hexagon mới