獨(dú)家丨字節(jié)大模型全員會(huì),朱文佳和吳永輝一起聊了方向、組織和開(kāi)源
極客公園獲悉,3 月 18 日上午,字節(jié)跳動(dòng)豆包大模型部門(mén)(Seed)召開(kāi)全員會(huì),由負(fù)責(zé)模型應(yīng)用相關(guān)工作的朱文佳,與新近加入的負(fù)責(zé) AI 基礎(chǔ)研究探索工作的吳永輝共同主持。
兩人談到了未來(lái)的目標(biāo),明確 Seed 部門(mén)的最重要目標(biāo)是探索智能上限;同時(shí)強(qiáng)調(diào)進(jìn)一步加強(qiáng)組織文化,提高技術(shù)開(kāi)放程度,并考慮推進(jìn)開(kāi)源。
01
模型和應(yīng)用長(zhǎng)期不矛盾,最重要的是探索智能上限
全員會(huì)上明確了 Seed 部門(mén)最重要的目標(biāo)是探索智能上限,這是一個(gè)長(zhǎng)期目標(biāo),會(huì)圍繞此前公布的 AGI 研究計(jì)劃「Seed Edge」展開(kāi),鼓勵(lì)有能力、有想法的同學(xué),探索更長(zhǎng)周期的、具有不確定性和大膽的 AI 研究課題。
吳永輝強(qiáng)調(diào)了長(zhǎng)期研究的重要性,對(duì) Seed Edge 的投入將進(jìn)一步加大,會(huì)為 Seed Edge 提供充足的算力,并將持續(xù)在內(nèi)外部招募最具潛力和好奇心的研究人才。同時(shí),對(duì) Edge 項(xiàng)目取消季度 OKR 和半年考核,保障長(zhǎng)期穩(wěn)定的研究環(huán)境。
朱文佳則提到,模型應(yīng)用會(huì)更多從用戶(hù)視角出發(fā),把用戶(hù)最關(guān)心的任務(wù),比如問(wèn)答、創(chuàng)作、解題、代碼等做好,真正理解用戶(hù)需求,符合用戶(hù)偏好。還要在搜索、Agent 等應(yīng)用中使用好工具,并充分發(fā)揮預(yù)訓(xùn)練模型的潛力。
朱文佳覺(jué)得,模型不但要答對(duì)問(wèn)題,還要講的清楚,讓人很快能看懂,要有情商。拿創(chuàng)作來(lái)說(shuō),他認(rèn)為不管是格式、文采還是深度,每個(gè)方面的天花板都很高,需要不斷試驗(yàn)分析。
關(guān)于模型研究和模型應(yīng)用的資源投入問(wèn)題,吳永輝認(rèn)為長(zhǎng)期來(lái)看兩者并不矛盾,智能不提升無(wú)法服務(wù)用戶(hù),同時(shí)應(yīng)用才能支持持久的投入,且給模型帶來(lái)更多的反饋,以及帶來(lái)更大的成就感。朱文佳也表示,最關(guān)鍵的還是智能上限,因?yàn)椋改P蛻?yīng)用長(zhǎng)期要貼著模型能力去做」。
02
加強(qiáng)內(nèi)外部技術(shù)開(kāi)放程度,考慮推進(jìn)開(kāi)源
進(jìn)一步加強(qiáng)組織文化,打造開(kāi)放、包容、自信的團(tuán)隊(duì)研究氛圍,則是 Seed 今年工作的另外一個(gè)重心。
吳永輝提到他加入字節(jié)的原因,是想做第一流的研究,也想打造一個(gè)第一流的 AI 研究團(tuán)隊(duì)。他表示,希望 Seed 成為一個(gè)能培養(yǎng)人才的組織:「我們希望把世界上最好的人才吸引到 Seed 來(lái)。但更重要的是我們要把內(nèi)部人才用好,把我們的潛力股識(shí)別出來(lái),給他們足夠的機(jī)會(huì),培養(yǎng)成頂級(jí)的人才?!?/p>
朱文佳也提到,過(guò)去兩年,大模型團(tuán)隊(duì)的很多應(yīng)屆生、實(shí)習(xí)生和年輕同學(xué),或者獨(dú)立負(fù)責(zé)重要的方向,或成為技術(shù)突破的關(guān)鍵貢獻(xiàn)者,成長(zhǎng)非常快。
為了更好地培養(yǎng)人才,Seed 正在改進(jìn)內(nèi)部反映的一些問(wèn)題,比如讓信息更透明,包括擴(kuò)大文檔、代碼和數(shù)據(jù)的權(quán)限,盡可能共享,消除信息孤島。同時(shí),打破部門(mén)壁壘,提升跨團(tuán)隊(duì)的溝通與協(xié)作,建立跨部門(mén)的專(zhuān)項(xiàng)研究小組。
吳永輝還表示,Seed 做了很多很好的工作,但外面不太了解。未來(lái)會(huì)加強(qiáng)提升 research 的影響力,鼓勵(lì)員工以 research paper 或者 blog 的形式把這些工作發(fā)表出來(lái)。
此外,未來(lái) Seed 也會(huì)考慮開(kāi)源,可能會(huì)開(kāi)源中小尺寸的 Dense 模型,這樣尺寸的模型對(duì)社區(qū)也是最友好的,目前細(xì)節(jié)還在討論中。
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個(gè)人看法,不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對(duì)本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn),讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前,請(qǐng)務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對(duì)因依賴(lài)本文觀點(diǎn)而產(chǎn)生的任何金錢(qián)損失負(fù)任何責(zé)任。