Giải mã nâng cấp NPU Hexagon trên Snapdragon 8 Elite Gen 6 Pro: Đòn bẩy cho kỷ nguyên AI

NPU Hexagon trên Snapdragon 8 Elite Gen 6 Pro sở hữu tốc độ xử lý nhanh hơn 50%, mở rộng bộ nhớ chia sẻ và được tối ưu hóa chuyên sâu cho các mô hình Agent-AI.

Trước thềm Hội nghị thượng đỉnh Snapdragon diễn ra vào ngày 22 tháng 9, Qualcomm đã công bố những chi tiết kỹ thuật đầu tiên liên quan đến bộ xử lý thần kinh NPU Hexagon thế hệ mới. Linh kiện này sẽ tích hợp trực tiếp trên vi xử lý Snapdragon 8 Elite Gen 6 Pro, đóng vai trò nền tảng phần cứng then chốt nhằm thúc đẩy năng lực tính toán của trí tuệ nhân tạo thế hệ tiếp theo ngay trên thiết bị di động.

Snapdragon 8 Elite Gen 6 Pro là SoC cao cấp tiếp theo của Qualcomm

Snapdragon 8 Elite Gen 6 Pro là SoC cao cấp tiếp theo của Qualcomm

Tối ưu hóa kiến trúc phần cứng cho tác nhân thông minh Agent-AI

Trọng tâm của NPU Hexagon thế hệ mới xoay quanh khả năng đáp ứng xu hướng trí tuệ nhân tạo dựa trên tác nhân (Agent-AI). Đây là dạng mô hình có khả năng chủ động lập luận, tự động hóa chuỗi quy trình phức tạp thay vì chỉ thực hiện các câu lệnh đơn lẻ như trước đây.

Để giải quyết bài toán tải tính toán tăng cao, Qualcomm tích hợp bộ tăng tốc chuyên biệt Element Accelerator. Khối phần cứng này được tinh chỉnh chuyên sâu cho các tác vụ chuyển đổi cấu trúc (transformer) trong những mô hình AI tạo sinh hiện đại, cho phép rút ngắn thời gian xử lý các chuỗi thuật toán phức tạp.

Snapdragon 8 Elite Gen 6 Pro có NPU siêu mạnh

Snapdragon 8 Elite Gen 6 Pro có NPU siêu mạnh

Bên cạnh đó, dung lượng bộ nhớ chia sẻ trên vi xử lý được Qualcomm mở rộng thêm 50%. Việc gia tăng bộ nhớ đệm này mang lại lợi thế lớn khi giữ các tham số mô hình thường xuyên truy cập ở vị trí sát NPU nhất. Cơ chế trên giúp giảm thiểu độ trễ truy xuất, tránh hiện tượng nghẽn băng thông và duy trì độ mượt mà khi hệ thống phải xử lý các ngữ cảnh dữ liệu dài hoặc đa nhiệm nhiều mô hình cùng lúc.

Hiệu năng xử lý INT4 và khả năng thích ứng mô hình Mixture-of-Experts

Ở tầng xử lý số học, NPU Hexagon mới đạt bước nhảy vọt về tốc độ điền trước (prefill) với mức tăng 50% đối với các mô hình lượng tử hóa INT4. Giai đoạn điền trước đóng vai trò thiết yếu trong việc đọc hiểu ngữ cảnh đầu vào của người dùng trước khi sinh dữ liệu đầu ra, do đó cải tiến này sẽ trực tiếp hạ thấp thời gian phản hồi của các trợ lý ảo trên thiết bị.

Đặc biệt, kiến trúc mới được thiết kế tương thích tối đa với các mô hình Mixture-of-Experts (MoE). Thay vì huy động toàn bộ mạng nơ-ron, mô hình MoE chỉ kích hoạt một phần nhỏ tham số cần thiết trên mỗi token dữ liệu, giúp giảm áp lực tính toán phần cứng.

Sự kết hợp đồng bộ giữa các tập lệnh mở rộng vô hướng (scalar), vectơ (vector) và ma trận (matrix) giúp NPU Hexagon tăng tốc toàn diện các phép tính đại số tuyến tính cốt lõi. Nhờ tối ưu hóa sâu ở tầng bán dẫn, Snapdragon 8 Elite Gen 6 Pro hứa hẹn đem lại hiệu suất AI vượt trội nhưng vẫn duy trì mức tiêu thụ điện năng tối ưu trên điện thoại thông minh.

PHỐ HỘI

Nguồn Đà Nẵng: https://baodanang.vn/giai-ma-nang-cap-npu-hexagon-tren-snapdragon-8-elite-gen-6-pro-don-bay-cho-ky-nguyen-ai-3351843.html