新火種
2025-03-12 
豆包大模型提出稀疏模型架構(gòu)，推理成本較MoE最高可降83%
每經(jīng)北京2月11日電（記者楊昕怡）豆包大模型團隊今日宣布，團隊提出了全新的稀疏模型架構(gòu)UltraMem，該架構(gòu)有效解決了MoE（混合專家模型）推理時高額的訪存問題，推理速度較MoE架構(gòu)提升2~6倍，推理成本最高可降低83%。該研究還揭示了新架構(gòu)的Scaling Law（規(guī)模定律），證明其不僅具備優(yōu)異的Scaling特性，更在性能上超越了MoE。
每日經(jīng)濟新聞
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風(fēng)險，讀者在采取與本文內(nèi)容相關(guān)的任何行動之前，請務(wù)必進行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負任何責(zé)任。
