Google giảm 33 lần năng lượng cho mỗi truy vấn AI

Google vừa công bố bước đột phá lớn trong việc giảm tiêu thụ năng lượng của trí tuệ nhân tạo. (Ảnh: Warp news)

Theo báo cáo, mỗi prompt AI giờ chỉ tiêu tốn năng lượng bằng 9 giây xem TV.

Con số này đánh dấu mức tiết kiệm gấp 33 lần so với năm trước.

Thành công đến từ tối ưu phần mềm, trung tâm dữ liệu và chip AI tùy chỉnh.

Google áp dụng Mixture-of-Experts để chỉ kích hoạt phần mô hình cần thiết.

Họ cũng phát triển các phiên bản nhỏ gọn hơn của mô hình chính nhằm giảm tải tính toán.

Ngoài ra, việc sắp xếp sử dụng năng lượng tái tạo góp phần giảm phát thải carbon.

Kết quả cho thấy AI có thể bền vững hơn nếu được tối ưu hóa toàn diện từ hạ tầng đến phần mềm.

Mời quý độc giả xem thêm video: Dọn rác AI | Hà Nội 18h00

Thiên Trang (th)