新火種
2025-02-07 
“AI教母”團隊用不到50美元訓練出新模型，蒸餾法加速大模型訓練和應(yīng)用平民化
據(jù)媒體報道，“AI教母”李飛飛等斯坦福大學和華盛頓大學研究人員近日以不到50美元的云計算費用訓練了一個名叫s1的人工智能推理模型。該模型在數(shù)學和編碼能力測試中的表現(xiàn)與OpenAI的o1和DeepSeek的R1等尖端推理模型類似。
s1誕生標志著高效AI模型訓練的新時代。研究人員表示，s1是通過蒸餾法由谷歌推理模型Gemini2.0FlashThinkingExperimental提煉出來的。這種方法的核心在于如何有效地傳遞知識，使得小模型不僅具備大模型的推理能力，而且在資源消耗上表現(xiàn)得極為優(yōu)越。
李飛飛團隊的這一突破，不僅展現(xiàn)了技術(shù)的前瞻性，而且為更多科研機構(gòu)和創(chuàng)業(yè)公司提供了借鑒的藍本。同時，s1所展現(xiàn)出價格優(yōu)勢的背后，其實也反映了未來AI領(lǐng)域的一個重要趨勢：大模型的訓練和應(yīng)用將愈發(fā)平民化。
此前DeepSeek發(fā)布一系列DeepSeek-R1模型，探索了將R1的推理能力蒸餾到更小模型中的潛力，通過知識蒸餾技術(shù)，成功將大模型的推理能力傳遞給小模型，實現(xiàn)了小模型在推理任務(wù)上的顯著提升，引領(lǐng)了小模型的發(fā)展方向。
本文源自：金融界
相關(guān)推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內(nèi)容相關(guān)的任何行動之前，請務(wù)必進行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負任何責任。
