新火種
2023-09-20 
Meta憋大招！明年初訓(xùn)練全新開源大模型對(duì)標(biāo)GPT-4、正搶購更多H100芯片
《科創(chuàng)板日?qǐng)?bào)》9月11日訊（編輯 宋子喬） 據(jù)《華爾街日?qǐng)?bào)》爆料，Meta正在加緊研發(fā)全新的開源大模型，支持免費(fèi)商用，能力對(duì)標(biāo)GPT-4，參數(shù)量比Llama2還要大上數(shù)倍，計(jì)劃在2024年初開始訓(xùn)練。
報(bào)道稱，Meta一直在搶購更多的英偉達(dá)H100人工智能訓(xùn)練芯片，并正在加強(qiáng)其數(shù)據(jù)中心建設(shè)，以便這一次它不再需要依賴微軟的Azure云平臺(tái)來訓(xùn)練新的聊天機(jī)器人。其在今年早些時(shí)候組建了一個(gè)團(tuán)隊(duì)來構(gòu)建該模型，目標(biāo)是加快創(chuàng)建可以模仿人類表情的人工智能工具。
《華爾街日?qǐng)?bào)》強(qiáng)調(diào)，對(duì)于這個(gè)籌劃中的大模型，細(xì)節(jié)有可能發(fā)生變化。
▌Meta堅(jiān)守“開源”路線
在這場人工智能競賽中，“開源”是Meta最鮮明的旗幟。大模型可以被免費(fèi)地用于研究和商業(yè)用途，意味著個(gè)人開發(fā)者和中小型企業(yè)能夠以最低的成本調(diào)用Llama2大模型，而不是花費(fèi)高昂的成本采購閉源大模型，這也有利于開源大模型用戶的吸納與培養(yǎng)以及大模型開源生態(tài)的構(gòu)建。
2月份，Meta憑借開源的Llama大模型回到生成式AI核心陣列，并在5個(gè)月后火速發(fā)布Llama2。Llama2有70億、130億和700億三種參數(shù)規(guī)模，其中700億參數(shù)模型能力已與GPT-3.5接近。
綜合來看，扎克伯格的想法是，一邊加大投入，讓自家大模型性能上追趕OpenAI，一邊通過開源，讓AI社區(qū)以自家模型為基礎(chǔ)來不斷迭代，為自己的產(chǎn)品打造更開放的生態(tài)環(huán)境。扎克伯格在闡述為什么要開源時(shí)寫道：“開源推動(dòng)創(chuàng)新，因?yàn)樗垢嗟拈_發(fā)人員能夠使用新技術(shù)進(jìn)行開發(fā)。我相信，如果生態(tài)系統(tǒng)更加開放，將會(huì)帶來更大的進(jìn)步。”
今年以來，Meta開源的大模型包括語言大模型MMS、計(jì)算機(jī)視覺模型SAM/I-JEPA、多模態(tài)AI模型ImageBind。
有評(píng)論稱，讓像Llama這樣復(fù)雜的模型廣泛地供企業(yè)免費(fèi)使用，可能會(huì)顛覆OpenAI等公司在新生的人工智能軟件市場上建立起來的早期主導(dǎo)地位。
▌生成式AI競技場高手如云
不過，Meta的大模型研發(fā)之路并非一帆風(fēng)順。6月初國會(huì)一封質(zhì)詢信直接寄到的扎克伯格手上，措辭嚴(yán)厲的要求他說明3月份Llama泄漏事故的前因后果。一波未平一波又起，近日該公司又陷入大模型團(tuán)隊(duì)內(nèi)訌、人員流失嚴(yán)重的困境，科技媒體The Information稱，初代Llama模型的14位核心原作者中，已有超過一半的人全部離職。
與此同時(shí)，生成式AI領(lǐng)域的競爭日趨白熱化。
盡管OpenAI在4月份、6月份均表示尚未開始訓(xùn)練GPT-5，但OpenAI一直在推出GPT-3.5的微調(diào)版本，公司還透露，GPT-4的微調(diào)功能將于今年秋天推出。另有蛛絲馬跡顯示，OpenAI的上述發(fā)言只是“煙霧彈”。8月1日，有外媒報(bào)道稱，OpenAI已經(jīng)為GPT-5申請(qǐng)了商標(biāo)。
其他對(duì)手同樣虎視眈眈。據(jù)科技媒體最新報(bào)道，蘋果計(jì)劃每天在人工智能上投資數(shù)百萬美元，多個(gè)團(tuán)隊(duì)正在同時(shí)開發(fā)多種人工智能模型，內(nèi)部模型Ajax據(jù)稱已超過GPT-3.5；谷歌和微軟都在各自的生產(chǎn)力工具中擴(kuò)大人工智能的使用，谷歌希望在谷歌助手中使用生成式人工智能；亞馬遜在其整個(gè)組織內(nèi)開展了生成式人工智能計(jì)劃，可以產(chǎn)生一個(gè)由聊天機(jī)器人驅(qū)動(dòng)的Alexa……
巨頭依然在狂奔，這場圍繞生成式人工智能的年度大戲，依然看點(diǎn)迭出、精彩紛呈。
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個(gè)人看法，不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對(duì)本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn)，讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前，請(qǐng)務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對(duì)因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
