Siêu máy tính AI mini của Nvidia có gì đặc biệt?

Ngày đăng 20:24 08/01/2025
© Reuters
NVDA
-
TSLA
-
999/USD
-

Investing.com -- Nvidia Project Digits sẽ bán từ tháng 5, đủ sức mạnh để chạy các mô hình AI phức tạp trong kích thước nhỏ gọn.

Được Nvidia (NASDAQ:NVDA) công bố tại Triển lãm điện tử tiêu dùng CES 2025 đang diễn ra ở Las Vegas (Mỹ), Project Digits trang bị chip GB10 Grace Blackwell Superchip với hiệu suất AI đạt một petaflop, tức có thể thực hiện 1.000 tỷ phép tính AI mỗi giây với độ chính xác mức FP4, giúp thực hiện các phép tính nhanh hơn.

Chip GB10 gồm lõi Cuda thế hệ mới của Nvidia và lõi Tensor thế hệ thứ năm, được kết nối qua NVLink-C2C với CPU Grace chứa 20 lõi Arm tiết kiệm điện năng. Nvidia đã bắt tay MediaTek hợp tác phát triển GB10 để tối ưu hóa hiệu suất và hiệu suất năng lượng

Mỗi hệ thống Project Digits được trang bị "bộ nhớ thống nhất" 128 GB, cao hơn nhiều so với mức RAM 16-32 GB trên các mẫu máy tính xách tay, kết hợp bộ nhớ NVMe đến 4 TB. Toàn bộ gói gọn trong kích thước tương đương một chiếc Mac mini đặt trên bàn làm việc, có thể xử lý mô hình AI với tối đa 200 tỷ tham số.

Đối với mô hình AI đòi hỏi khắt khe hơn, hai hệ thống Project Digits có thể được liên kết với nhau để xử lý 405 tỷ tham số, chẳng hạn mô hình tốt nhất của Meta, Llama 3.1 405B, có 405 tỷ tham số. Máy chạy điện lưới dân dụng thông thường thay vì các hệ thống lớn trước đây "ngốn" nhiều điện năng.

Trên Project Digits, người dùng cũng sẽ truy cập vào thư viện phần mềm AI của Nvidia, gồm bộ công cụ phát triển, điều phối và các mô hình được đào tạo trước có sẵn thông qua danh mục NGC. Hệ thống chạy trên nền tảng DGX OS dựa trên Linux, hỗ trợ PyTorch, Python và Jupyter notebook. Các nhà phát triển có thể tinh chỉnh mô hình AI bằng Nvidia NeMo và tăng tốc quy trình làm việc với thư viện Nvidia RAPIDS.

Với kích thước nhỏ gọn, người dùng có thể phát triển và thử nghiệm các mô hình AI cục bộ, sau đó triển khai trên dịch vụ đám mây hoặc trung tâm dữ liệu bằng kiến trúc Grace Blackwell và nền tảng phần mềm Nvidia AI Enterprise. Sản phẩm có giá từ 3.000 USD, bắt đầu bán ra từ tháng 5.

"AI sẽ trở thành xu hướng trong mọi ứng dụng, cho mọi ngành công nghiệp. Với Project Digits, Grace Blackwell Superchip sẽ đến với hàng triệu nhà phát triển", CEO Nvidia Jensen Huang cho biết. "Việc đặt một siêu máy tính AI trên bàn làm việc giúp trao quyền cho mọi nhà khoa học dữ liệu, nhà nghiên cứu AI và sinh viên tham gia và định hình kỷ nguyên AI".

Tại CES 2025, The Verge đánh giá sự hiện diện của Nvidia "ở mọi nơi", khi rất nhiều sản phẩm, giải pháp và công nghệ của hãng có mặt. Công ty giới thiệu dòng card đồ họa cho máy tính kiến trúc Blackwell, gồm RTX 5090 giá 1.999 USD, RTX 5080 giá 999 USD, RTX 5070 Ti giá 749 USD và RTX 5070 hiệu suất tương đương RTX 4090 nhưng thấp hơn "đàn anh" với 549 USD.

Tại sự kiện, ông Huang cũng trình bày tầm nhìn công nghệ, nhấn mạnh vào AI và robot. Trong đó, NeMo dùng để tạo ra tác nhân AI (AI Agent), nền tảng Cosmos giúp huấn luyện robot bắt chước con người, chip Hyperion 9 dùng phân tích dữ liệu từ máy ảnh, radar và Lidar. Ngoài ra, sự hiện diện của Nvidia cũng có trên các sản phẩm máy tính cá nhân cho đến xe tự lái của Waymo, Tesla (NASDAQ:TSLA), Zoox hay Xiaomi.

Bình luận mới nhất

Cài Đặt Ứng Dụng của Chúng Tôi
Công Bố Rủi Ro: Giao dịch các công cụ tài chính và/hoặc tiền điện tử tiềm ẩn mức độ rủi ro cao, bao gồm rủi ro mất một phần hoặc toàn bộ vốn đầu tư, và có thể không phù hợp với mọi nhà đầu tư. Giá cả tiền điện tử có độ biến động mạnh và có thể chịu tác động từ các yếu tố bên ngoài như các sự kiện tài chính, pháp lý hoặc chính trị. Việc giao dịch theo mức ký quỹ gia tăng rủi ro tài chính.
Trước khi quyết định giao dịch công cụ tài chính hoặc tiền điện tử, bạn cần nắm toàn bộ thông tin về rủi ro và chi phí đi kèm với việc giao dịch trên các thị trường tài chính, thận trọng cân nhắc đối tượng đầu tư, mức độ kinh nghiệm, khẩu vị rủi ro và xin tư vấn chuyên môn nếu cần.
Fusion Media xin nhắc bạn rằng dữ liệu có trên trang web này không nhất thiết là theo thời gian thực hay chính xác. Dữ liệu và giá cả trên trang web không nhất thiết là thông tin do bất kỳ thị trường hay sở giao dịch nào cung cấp, nhưng có thể được cung cấp bởi các nhà tạo lập thị trường, vì vậy, giá cả có thể không chính xác và có khả năng khác với mức giá thực tế tại bất kỳ thị trường nào, điều này có nghĩa các mức giá chỉ là minh họa và không phù hợp cho mục đích giao dịch. Fusion Media và bất kỳ nhà cung cấp dữ liệu nào có trên trang web này đều không chấp nhận bất cứ nghĩa vụ nào trước bất kỳ tổn thất hay thiệt hại nào xảy ra từ kết quả giao dịch của bạn, hoặc trước việc bạn dựa vào thông tin có trong trang web này.
Bạn không được phép sử dụng, lưu trữ, sao chép, hiển thị, sửa đổi, truyền hay phân phối dữ liệu có trên trang web này và chưa nhận được sự cho phép rõ ràng bằng văn bản của Fusion Media và/hoặc nhà cung cấp. Tất cả các quyền sở hữu trí tuệ đều được bảo hộ bởi các nhà cung cấp và/hoặc sở giao dịch cung cấp dữ liệu có trên trang web này.
Fusion Media có thể nhận thù lao từ các đơn vị quảng cáo xuất hiện trên trang web, dựa trên tương tác của bạn với các quảng cáo hoặc đơn vị quảng cáo đó.
Phiên bản tiếng Anh của thỏa thuận này là phiên bản chính, sẽ luôn được ưu tiên để đối chiếu khi có sự khác biệt giữa phiên bản tiếng Anh và phiên bản tiếng Việt.
© 2007-2025 - Công ty TNHH Fusion Media. Mọi quyền được bảo hộ.