Lời giải cho người muốn tự lắp máy làm AI

Dữ liệu từ công ty nghiên cứu thị trường IDC cho thấy lô hàng máy tính cá nhân có tính năng AI tăng trưởng mạnh trong vài năm tới. Thị phần loại sản phẩm này sẽ tăng lên 60% vào 2027, đạt khoảng 167 triệu máy so với 40 triệu của 2024.

Tuy nhiên, giải pháp đầu cuối hiện vẫn tập trung ở laptop Copilus+ PC với những tác vụ tạo sinh cơ bản. Lĩnh vực cho doanh nghiệp hoặc cá nhân muốn tự phát triển AI phục vụ nhu cầu hẹp vẫn thiếu vắng lựa chọn.

Máy để bàn train AI

Trong khuôn khổ Computex 2024 tại Đài Bắc (Đài Loan), hãng công nghệ Gigabyte công bố bộ giải pháp training trí tuệ nhân tạo local (tại máy). Công ty gọi đây là sản phẩm AI TOP. Dải thiết bị sẽ được phát triển song song với linh kiện Aorus (cho gaming) và Aero (người làm sáng tạo).

Sản phẩm AI chuyên dùng cho người dùng cá nhân của Gigabyte. Ảnh: Xuân Sang.

Trung tâm của hệ sinh thái này là các bo mạch chủ mới, được trang bị nhiều khe cắm PCIe 5.0. Nhờ vậy, người dùng có thể gắn thêm rất nhiều card đồ họa chuyên dụng cho mục đích training AI hiệu suất cao. Đi kèm với đó là phiên bản card đồ họa NVIDIA 4070 Ti Super phiên bản AI TOP. Đây vốn là dòng GPU chuyên game, nhưng được cộng đồng phát triển AI đơn lẻ đánh giá cao để training model.

Dòng mới có kiểu thiết kế đơn giản, thay vì các loại quạt lớn và thiết kế hầm hố. Kích thước cơ bản của sản phẩm bằng một nửa card gaming cùng model. Trên bo mạch, vị trí vốn gắn được một GPU sẽ tích hợp được hai linh kiện AI TOP.

Thiết kế giải quyết vấn đề cồng kềnh của các bộ máy phát triển trí tuệ nhân tạo từ linh kiện không chuyên dụng. Nhà sản xuất cho hiệu năng của bộ thiết bị này vẫn được đảm bảo dù không chiếm nhiều diện tích, nhờ giải pháp đối lưu dòng khí trong cây máy tính.

Ngoài các bộ phận hiện có, những thành phần khác của máy tính như nguồn, SSD cũng sẽ có phiên bản dành riêng cho tác vụ AI.

Đi kèm với sản phẩm phần cứng, nhà sản xuất ra mắt thêm công cụ AI TOP Utility. Đây là phần mềm hỗ trợ training mô hình ngôn ngữ lớn tại chỗ. Tại phòng trưng bày, Gigabyte thử nghiệm với đầu vào là LLM mã nguồn mở Llama 3 8B của Meta. Nguồn cấp dữ liệu là của doanh nghiệp. Trong app, người dùng có thể chọn sử dụng VRAM, DRAM hoặc cả SSD để hỗ trợ việc phát triển LLM.

Phần mềm AI TOP Utility đơn giản hóa việc huấn luyện AI trên máy bàn. Ảnh: Xuân Sang.

Lợi thế của giải pháp là phần mềm trực quan, dễ sử dụng với cá người dùng có ít kinh nghiệm lập trình AI hoặc nhân viên IT của doanh nghiệp nhỏ. Mô hình ngôn ngữ sau khi được phát triển có thể trích xuất sử dụng trên thiết bị khác.

Chia sẻ với Tri thức - Znews, chuyên viên kỹ thuật của Gigabyte cho biết phần AI TOP Utility hiện chỉ hỗ trợ hệ điều hành Linux, cho việc phát triển LLM. Trong tương lai, các ứng dụng liên quan đến hình ảnh, video, âm thanh cũng sẽ được hỗ trợ.

Xu hướng tự phát triển AI

Ông Eddie Lin, CEO Tập đoàn Gigabyte cho rằng xu hướng chung của ngành AI trong tương lai gần là chuyển từ dịch vụ đám mây có sẵn sang máy tính cá nhân người dùng. Theo các chuyên gia, việc sử dụng công cụ có sẵn vẫn tồn tại nhiều điểm trừ.

Máy chủ AI dùng card chuyên dụng, hệ thống phức tạp để vận hành. Ảnh: Gizmodo.

Trong số đó, vấn đề chi phí cùng khả năng bảo mật là được dự báo là động lực chính giúp sản phẩm “local AI” phát triển. Người dùng, doanh nghiệp cần trả phí dựa trên số token sử dụng qua API của các công cụ từ Google, Microsoft hoặc OpenAI. Đồng thời, dữ liệu khi trao đổi qua hệ thống cũng tiềm ẩn nguy cơ bảo mật khi nằm trên máy chủ bên thứ 3.

Do vậy, những giải pháp làm việc “tại chỗ” sẽ dần được ưa chuộng trong thời gian tới, với các mô hình hẹp hơn, phục vụ nhu cầu hẹp hơn của doanh nghiệp nhỏ và người dùng cá nhân.

Tuy nhiên, việc tự lắp ráp một bộ máy chuyên dụng cho mục đích AI vẫn tương đối khó khăn tại Việt Nam. Đa số người dùng tìm kiếm các lựa chọn linh kiện gaming để thay thế, tìm cách tối ưu cho tác vụ này. Việc này khiến sản phẩm không được dùng đúng mục đích ban đầu, có rủi ro về độ bền, hiệu suất.

Do vậy, những giải pháp được đóng gói trọn bộ, gồm cả phần cứng, công cụ ứng dụng được xem là tương lai của AI Local.

Xuân Sang