Meta可能正開發Llama 3,據稱比GPT-4強大、免費開源!
本文要點:
1. Meta可能正在開發比GPT-4更強大的AI大模型Llama3,并保持開源免費。
2.消息稱 Llama3計劃達到GPT-4的性能水平,但仍將免費提供。然而Meta尚未對此進行官方確認。
3. Llama2在某些應用上達到GPT-3.5水平,但與GPT-4等模型仍有明顯差距。Llama3是否能超過GPT-4在技術上還存在不確定性。
新火種(xhz.cn)8月31日 消息:據人工智能新聞網站the decoder報道,Meta可能正在開發比GPT-4更強大的AI大模型Llama3,并且保持開源免費。
報道稱,這是OpenAI 工程師、前 Google Brain 工程師 Jason Wei 在 Meta 組織的 Generative AI Group 社交活動中聽到的消息。
Jason Wei注意到 Meta 現在有足夠的計算能力來訓練 Llama3和4。他透露,Llama3計劃達到GPT-4的性能水平,但仍將免費提供。
不過,Meta目前還沒有發表任何關于Llama3何時發布的聲明。盡管消息源來自Jason Wei,但其聽到的消息也可能有誤。
可以參考的是,從2023年2月下旬發布Llama1到2023年7月下旬發布 Llama2, Meta 花了大約五個月的時間。
GPT-4具有比標準版 Llama 更復雜的架構
GPT-4可能通過使用更復雜的混合架構來實現其高性能,該架構具有16個專家網絡,每個網絡具有約1110億個參數。
因此,從 Llama2升級到 Llama3可能比簡單地通過更多訓練進行擴展更具挑戰性,并且可能比從 Llama1跳到 Llama2需要更長的時間。
Llama2在某些應用程序中達到了GPT-3.5的水平,同時正在由開源社區通過微調和附加功能進行優化。
例如,最近發布的Code Llama基于 Llama2,通過微調在 HumanEval 編碼基準中達到了GPT-3.5和GPT-4級別的結果(取決于測量類型)。
然而,Meta 在論文中指出, Llama2與 GPT-4和Google 的 PaLM-2等閉源模型仍然存在較大的性能差距。
屆時Llama3能否比GPT-4更強大還有待觀察。
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法,不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險,讀者在采取與本文內容相關的任何行動之前,請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。