新火種
2024-05-30 
100％穩定！摩爾線程GPU千卡集群適配滴普科技大模型訓練、推理
5月29日消息，摩爾線程與國內領先的數據智能服務商滴普科技共同宣布，摩爾線程“夸娥”（KUAE）千卡智算集群與滴普企業大模型Deepexi v1.0已完成訓練、推理適配，獲得產品兼容互認證明。
基于摩爾線程夸娥千卡智算集群，滴普科技成功完成了LLaMA2 700億參數大語言模型的預訓練測試。
訓練時長共計77小時，全程無故障連續運行，集群訓練穩定性達到100％，訓練效率和兼容性均達到預期。
有趣的是，兼容互認證明的發證時間是2023年9月28日，也就是相關適配工作早就完成了，如今才公開。
北京滴普科技有限公司成立于2018年，定位于數據智能服務商，為客戶提供數據智能基礎設施、企業大模型產品，以及數據智能創新服務。
目前，滴普科技已與中國海誠、中核裝備院、百麗時尚等企業開展產業落地實踐，成為產業大模型落地的領先企業。
滴普科技的Deepexi企業大模型，在語義、視覺、語音、跨模態等方面表現優越，可運用模型工具鏈，為企業提供高質量的數據準備、模型訓練、調優、部署及推理服務，快速構建不同領域的模型、智能體應用。
摩爾線程夸娥方案是業內首個跑通、跑完國產大模型的千卡集群，基于全功能MTT S4000 GPU，提供軟硬一體化的全棧解決方案，具備模型覆蓋、推理加速、CUDA兼容、斷點續訓、分布式訓練、集群可靠性等8大核心能力。
在此之前，摩爾線程已經第一家接入無問芯穹，夸娥千卡集群先后適配無穹Infini-AI大模型開發與服務平臺、完成LLama2 700億參數大模型訓練測試、完成MT-infini-3B 3B(30億參數)規模大模型實訓。
憨猴集團也基于摩爾線程的夸娥千卡智算集群，成功完成了7B、34B、70B不同參數量級的大模型分布式訓練，效率、精度、穩定性都相當完美。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
