Chạy AI trên máy tính có mặt trước thời iPhone

Thực hiện suy luận (inference) với mô hình ngôn ngữ lớn Llama 2 bằng chiếc PowerBook G4 đời 2005. Ảnh: MacRumors.

Theo MacRumors, một kỹ sư phần mềm có tên Andrew Rossignol đang gây sốt trong cộng đồng công nghệ khi chia sẻ quá trình chạy tác vụ AI tạo sinh bằng chiếc PowerBook G4 đời 2005.

Cụ thể, chiếc laptop mà Rossignol sử dụng đã ra mắt từ năm 2005, chạy trên bộ xử lý PowerPC G4 1.5 GHz và RAM 1 GB. Với cấu hình lỗi thời như vậy, tuy nhiên kỹ sư phần mềm này vẫn có thể thực hiện suy luận (inference) với mô hình ngôn ngữ lớn Llama 2 của Meta trên máy.

Trong bài chia sẻ, Rossignol tiết lộ để thực hiện thử nghiệm, anh đã chuyển sang dùng dự án llama2.c mã nguồn mở và tăng tốc hiệu suất bằng một tiện ích vector PowerPC có tên AltiVec.

Năm 2001, thiết bị được trình làng sau câu nói “One more thing” là PowerBook G4, mẫu laptop với chất liệu titan, còn gọi là TiBook. Sau hơn 20 năm, ngôn ngữ thiết kế của PowerBook G4 vẫn được đánh giá hiện đại và mới mẻ, được duy trì trên MacBook Pro 2021.

Thử nghiệm của Rossignol một lần nữa chứng minh việc huấn luyện AI vẫn có thể thực hiện trên những thiết bị có phần cứng hạn chế.

Anh Tuấn