財中社
2025-01-14 
長江證券：英偉達發布ProjectDigits桌面AI超算有望重塑端側推理范式
財中社1月13日電長江證券發布軟件與服務行業報告稱，1月7日國際消費電子展（CES 2025）開幕前夕，英偉達創始人兼CEO黃仁勛發表主題演講，發布Project Digits桌面端AI超算硬件。Project Digits整體只有一本字典大小，可使用標準家用電源插座供電。Project Digits能讓全世界開發者能夠在自己的辦公桌上，運行超大規模的AI模型，補充了現有的云計算資源，極大地降低了端側AI落地的算力門檻。ProjectDigits將于今年5月正式推出，起售價為3000美元。
Project Digits允許用戶在端側運行LLaMA 3級別的大模型。Project Digits桌面級系統可以處理高達2000億參數的AI模型；同時，對于需要更強大算力的應用，用戶可以通過ConnectX網絡芯片將2臺Project Digits超級計算機互聯，獲得足以處理高達4050億參數模型的性能，在本地運行LLaMA 3.1405B模型。
英偉達為Project Digits完善了生態適配，降低了使用門檻。Project Digits預裝了Nvidia DGX基礎操作系統（基于Ubuntu Linux）和Nvidia AI軟件棧，為開發者提供了一個開箱即用的AI開發環境。英偉達還為Project Digits用戶提供了各種AI軟件，包括開發工具包、編排工具，以及通過英偉達NGC目錄提供的預訓練模型，并支持PyTorch、Python和Jupyter等主流框架。用戶可以在Project Digits上本地開發和測試AI模型，然后使用相同的Grace Blackwell架構和Nvidia AIEnterprise軟件平臺將其部署到云服務或數據中心基礎設施。
Project Digits的核心是新一代GB10芯片。GB10芯片基于Grace Blackwell架構，在FP4精度下可以提供1 PFlops的AI性能。在CPU部分，Project Digits采用英偉達自家的Grace CPU，采用定制20核心ARM架構。在信息傳輸方面，GB10通過NVLink-C2C芯片到芯片互連連接到高性能Grace CPU。在存儲方面，每臺系統配備了128GB的統一內存以及高達4TB的NVMe存儲空間。
Project Digits有望重塑端側AI推理范式。隨著AI應用的陸續落地，端側算力需求在持續增長，因此算力已成為端側AI落地的核心瓶頸。為解決問題，AI應用廠商一方面蒸餾端側模型，降低端側模型參數量；一方面把部分推理需求傳導至云端。本次Project Digits推出有望顛覆端側AI推理范式，重塑端側AI落地思路。
（文章來源：財中社）
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
