新火種
2023-09-12 
Meta憋大招！明年初訓練全新開源大模型對標GPT
據(jù)《華爾街日報》爆料，Meta正在加緊研發(fā)全新的開源大模型，支持免費商用，能力對標GPT-4，參數(shù)量比Llama2還要大上數(shù)倍，計劃在2024年初開始訓練。
報道稱，Meta一直在搶購更多的英偉達H100人工智能訓練芯片，并正在加強其數(shù)據(jù)中心建設，以便這一次它不再需要依賴微軟的Azure云平臺來訓練新的聊天機器人。其在今年早些時候組建了一個團隊來構(gòu)建該模型，目標是加快創(chuàng)建可以模仿人類表情的人工智能工具。
《華爾街日報》強調(diào)，對于這個籌劃中的大模型，細節(jié)有可能發(fā)生變化。
▌Meta堅守“開源”路線
在這場人工智能競賽中，“開源”是Meta最鮮明的旗幟。大模型可以被免費地用于研究和商業(yè)用途，意味著個人開發(fā)者和中小型企業(yè)能夠以最低的成本調(diào)用Llama2大模型，而不是花費高昂的成本采購閉源大模型，這也有利于開源大模型用戶的吸納與培養(yǎng)以及大模型開源生態(tài)的構(gòu)建。
2月份，Meta憑借開源的Llama大模型回到生成式AI核心陣列，并在5個月后火速發(fā)布Llama2。Llama2有70億、130億和700億三種參數(shù)規(guī)模，其中700億參數(shù)模型能力已與GPT-3.5接近。
綜合來看，扎克伯格的想法是，一邊加大投入，讓自家大模型性能上追趕OpenAI，一邊通過開源，讓AI社區(qū)以自家模型為基礎來不斷迭代，為自己的產(chǎn)品打造更開放的生態(tài)環(huán)境。扎克伯格在闡述為什么要開源時寫道：“開源推動創(chuàng)新，因為它使更多的開發(fā)人員能夠使用新技術(shù)進行開發(fā)。我相信，如果生態(tài)系統(tǒng)更加開放，將會帶來更大的進步。”
今年以來，Meta開源的大模型包括語言大模型MMS、計算機視覺模型SAM/I-JEPA、多模態(tài)AI模型ImageBind。
有評論稱，讓像Llama這樣復雜的模型廣泛地供企業(yè)免費使用，可能會顛覆OpenAI等公司在新生的人工智能軟件市場上建立起來的早期主導地位。
▌生成式AI競技場高手如云
不過，Meta的大模型研發(fā)之路并非一帆風順。6月初國會一封質(zhì)詢信直接寄到的扎克伯格手上，措辭嚴厲的要求他說明3月份Llama泄漏事故的前因后果。一波未平一波又起，近日該公司又陷入大模型團隊內(nèi)訌、人員流失嚴重的困境，科技媒體The Information稱，初代Llama模型的14位核心原作者中，已有超過一半的人全部離職。
與此同時，生成式AI領域的競爭日趨白熱化。
盡管OpenAI在4月份、6月份均表示尚未開始訓練GPT-5，但OpenAI一直在推出GPT-3.5的微調(diào)版本，公司還透露，GPT-4的微調(diào)功能將于今年秋天推出。另有蛛絲馬跡顯示，OpenAI的上述發(fā)言只是“煙霧彈”。8月1日，有外媒報道稱，OpenAI已經(jīng)為GPT-5申請了商標。
其他對手同樣虎視眈眈。據(jù)科技媒體最新報道，蘋果計劃每天在人工智能上投資數(shù)百萬美元，多個團隊正在同時開發(fā)多種人工智能模型，內(nèi)部模型Ajax據(jù)稱已超過GPT-3.5；谷歌和微軟都在各自的生產(chǎn)力工具中擴大人工智能的使用，谷歌希望在谷歌助手中使用生成式人工智能；亞馬遜在其整個組織內(nèi)開展了生成式人工智能計劃，可以產(chǎn)生一個由聊天機器人驅(qū)動的Alexa……
巨頭依然在狂奔，這場圍繞生成式人工智能的年度大戲，依然看點迭出、精彩紛呈。
本文源自：
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內(nèi)容相關的任何行動之前，請務必進行充分的盡職調(diào)查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負任何責任。
