iPhone 17 Pro làm điều không tưởng, vốn yêu cầu RAM 200 GB
Các mô hình ngôn ngữ lớn (LLM) với 400 tỷ tham số thường yêu cầu phần cứng mạnh mẽ và dung lượng bộ nhớ lớn, với tối thiểu 200 GB bộ nhớ RAM ngay cả khi đã được nén hoặc lượng tử hóa.
Điều này khiến iPhone 17 Pro vốn chỉ có RAM 12 GB không phải là lựa chọn hàng đầu để chạy những mô hình này. Tuy nhiên, một video gần đây đã chứng minh rằng chiếc điện thoại cao cấp của Apple có thể thực hiện điều tưởng chừng không thể.
Việc vận hành mô hình LLM trên iPhone 17 Pro đòi hỏi một vài điều chỉnh nhỏ, nếu không việc này sẽ không thể thực hiện được.
Dự án mã nguồn mở mang tên Flash-MoE đã cho thấy khả năng chạy mô hình ngôn ngữ lớn trên iPhone 17 Pro. Mặc dù thiết bị này có thể xử lý mô hình LLM yêu cầu tài nguyên cao, tuy nhiên hiệu suất vẫn còn nhiều hạn chế. Cụ thể, tốc độ tạo token chỉ đạt 0,6 token mỗi giây, tức là khoảng 1 từ được tạo ra sau mỗi 1,5 đến 2 giây. Điều này có thể khiến nhiều người dùng cảm thấy khó chịu khi phải chờ đợi lâu.
Mặc dù tốc độ chậm, việc một mô hình ngôn ngữ lớn 400 tỷ tham số hoạt động trên smartphone cho thấy rằng với một số tối ưu hóa, việc chạy các mô hình này trên thiết bị di động là khả thi. Thay vì tải toàn bộ mô hình vào bộ nhớ, Flash-MoE tận dụng ổ SSD của iPhone để truyền dữ liệu trực tiếp đến GPU. Hơn nữa, “MoE” là viết tắt của mô hình Mixture of Experts, vốn cho phép chỉ sử dụng một phần nhỏ trong số 400 tỷ tham số cho mỗi từ được tạo ra.
Một lợi ích khác của việc sử dụng LLM cục bộ là người dùng có thể bảo mật thông tin mà không cần kết nối internet, mặc dù điều này có thể làm hao pin nhanh chóng. Các nhà phát triển cũng đã sử dụng các phiên bản nén của các mô hình ngôn ngữ lớn, nhưng một mô hình với 400 tỷ tham số vẫn yêu cầu tối thiểu RAM 200 GB và khiến việc chạy trên iPhone 17 Pro trở nên khó khăn.
Tóm lại, nếu đủ kiên nhẫn để chờ đợi tốc độ tạo truy vấn 0,6 token mỗi giây, người dùng có thể chạy một mô hình LLM 400 tỷ tham số trên iPhone 17 Pro. Tuy nhiên, vẫn còn một khoảng cách lớn giữa việc chạy mô hình và việc sử dụng nó một cách hiệu quả.
Tin nóng
Thẻ SIM không chỉ dùng để nghe gọi mà còn liên quan trực tiếp đến nhiều dịch vụ như ngân hàng, email hay mã xác thực. Do đó, khi số điện thoại bị chiếm quyền, các tài khoản quan trọng cũng sẽ bị xâm nhập.
Các kỹ sư Trung Quốc đã hoàn thành việc thiết kế tàu ngầm du lịch biển sâu đầu tiên của nước này, có khả năng lặn 1.000m dưới biển. Con tàu này dự kiến hoạt động thương mại vào trước năm 2030.
Trí tuệ nhân tạo đang thay đổi cách người trẻ chuẩn bị và trải nghiệm hành trình. Từ vài câu lệnh đơn giản, cả chuyến đi được 'thiết kế' trong tích tắc. Nhưng khi mọi thứ quá tiện lợi, câu hỏi đặt ra là: du lịch còn giữ được chất khám phá nguyên bản?
Một trong những mục tiêu tổng quát của Chiến lược phát triển, ứng dụng năng lượng nguyên tử vì mục đích hòa bình là mở rộng ứng dụng bức xạ và đồng vị phóng xạ trong các ngành kinh tế - kỹ thuật.
Đối với nhiều du khách, quá trình lên kế hoạch cho chuyến đi là một trải nghiệm vất vả khi phải liên tục xem xét các bài so sánh giá cả và vật lộn với hàng tá thẻ trình duyệt lộn xộn. Ngày càng nhiều người đang 'giao phó' nhiệm vụ này cho trí tuệ nhân tạo (AI).
Tỷ phú Elon Musk vừa công bố kế hoạch xây dựng Terafab, cơ sở sản xuất bán dẫn lớn nhất thế giới, với tham vọng không chỉ đặt trên Trái đất mà còn mở rộng ra không gian, trong một dự án trị giá 20-25 tỷ USD.
Tin mới
Thủ đoạn 'SIM Swap' đang khiến nhiều người mất quyền kiểm soát số điện thoại, từ đó bị đánh cắp mã OTP và chiếm đoạt tiền.
Trong kỷ nguyên số, dữ liệu được ví như nguồn tài nguyên vô giá. Tuy nhiên, một thực trạng đáng báo động là phần lớn các tổ chức, đặc biệt là các doanh nghiệp vừa và nhỏ (SME), vẫn đang loay hoay với tư duy bảo mật cũ kỹ, tạo kẽ hở cho tin tặc ngang nhiên đánh cắp dữ liệu. Và điều này cần thay đổi.
Theo ông Nguyễn Quyết Chiến, Tổng Thư ký Liên hiệp Hội Việt Nam, việc xây dựng nền tảng dữ liệu số tập trung không chỉ đáp ứng yêu cầu cấp thiết mà còn mở ra khả năng khai thác hiệu quả 'tài nguyên số', hướng tới hình thành kho dữ liệu dùng chung, phục vụ quản trị, điều hành và tạo thêm động lực phát triển cho toàn hệ thống.
Tim Cook nhấn mạnh iPhone không nên chiếm trọn thời gian người dùng, cảnh báo thói quen doomscrolling gây hại đến chất lượng cuộc sống.
Robot đang dần thay đổi cách bác sĩ tiếp cận não bộ - cơ quan phức tạp và nhạy cảm bậc nhất. Bước tiến mới từ Trung Quốc cho thấy công nghệ bắt đầu vượt con người trong một số khâu then chốt của y khoa.
iOS 27 sẽ xuất hiện tại hội nghị lập trình viên Apple WWDC 2026 diễn ra từ ngày 9/6 (giờ Việt Nam).
Robot DNA là những cỗ máy phân tử siêu nhỏ, có thể di chuyển khắp nơi bên trong cơ thể.
Sau 1 tuần đưa vào thí điểm, dịch vụ xe đạp điện công cộng tại khu vực trung tâm TP Hồ Chí Minh đã thu hút khoảng 2.600 người sử dụng, góp phần mở rộng lựa chọn di chuyển và thúc đẩy xu hướng giao thông xanh.