騰訊發(fā)布新一代大模型“混元Turbo”:推理成本下降50%效率提升100%
9月5日消息,在騰訊全球數(shù)字生態(tài)大會上,騰訊集團(tuán)副總裁、云與智慧產(chǎn)業(yè)事業(yè)群COO、騰訊云總裁邱躍鵬宣布發(fā)布新一代的大模型——騰訊混元Turbo。
新一代的大模型基于MoE(Mixture of Experts)架構(gòu)設(shè)計,相較于前一代產(chǎn)品混元Pro,在推理效率上實現(xiàn)了翻倍,達(dá)到了100%的提升,同時在推理成本上實現(xiàn)了顯著降低,降幅達(dá)到50%。
此外,混元Turbo在解碼效率方面也表現(xiàn)出色,有著20%的提升。
價格方面,混元Turbo相較于前一代產(chǎn)品降低了50%,輸出價格為0.05元/千tokens,輸入價格為0.015元/千tokens。
據(jù)了解,在中文大模型測評基準(zhǔn)SuperCLUE發(fā)布《中文大模型基準(zhǔn)測評2024年8月報告》中,混元新一代大語言模型預(yù)覽版(Turbo-Preview)在理科、文科均居于第一名。
Hard任務(wù)上騰訊混元Turbo-Preview取得74.33分,是國內(nèi)唯一超過70分的大模型,與ChatGPT-4o有微小差距。
目前,騰訊內(nèi)部已有眾多業(yè)務(wù)及場景接入了混元大模型,包括騰訊元寶、騰訊云、QQ、微信讀書等。
騰訊旗下協(xié)作SaaS(軟件即服務(wù))產(chǎn)品也已全面接入騰訊混元大模型。
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點僅代表作者個人看法,不代表新火種的觀點。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認(rèn)可。 交易和投資涉及高風(fēng)險,讀者在采取與本文內(nèi)容相關(guān)的任何行動之前,請務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。