首頁 > AI資訊 > 最新資訊 > 獵豹移動傅盛:數(shù)據(jù)才是大模型競爭的真正壁壘

獵豹移動傅盛:數(shù)據(jù)才是大模型競爭的真正壁壘

21世紀經(jīng)濟報道    2024-11-29

  21世紀經(jīng)濟報道記者白楊北京報道

  在AI大模型的激烈競爭中,算力資源和算法優(yōu)化一直是各大企業(yè)追逐的焦點。然而,隨著技術(shù)逐漸成熟,行業(yè)的焦點正在發(fā)生微妙的轉(zhuǎn)變——從單純的模型訓練和算力投入,轉(zhuǎn)向了如何處理和利用海量、高質(zhì)量的數(shù)據(jù)。

  事實上,數(shù)據(jù)已經(jīng)成為了大模型能否成功落地的決定性因素。11月27日,獵豹移動董事長兼CEO傅盛在接受21世紀經(jīng)濟報道記者采訪時明確指出:“算法和算力并不是大模型的核心競爭力,真正的壁壘是數(shù)據(jù)。”

  傅盛提到,大多數(shù)大模型公司在算法上并沒有顯著的差異化。盡管芯片和算法依然關(guān)鍵,但它們的差距并不像數(shù)據(jù)那么深刻。“如果數(shù)據(jù)沒有足夠的質(zhì)量和數(shù)量,任何算法和算力的優(yōu)勢都無法發(fā)揮作用。”

  大模型的訓練依賴大量標注過的數(shù)據(jù),這一過程直接決定了模型的實際效果。傅盛比喻說,模型就像一個正在成長的孩子,只有得到正確的信息,他才能正確學習。

  數(shù)據(jù)面臨質(zhì)量和數(shù)量雙重挑戰(zhàn)

  然而,在數(shù)據(jù)的獲取和利用方面,大模型的發(fā)展正面臨諸多挑戰(zhàn)。

  首先是能用于大模型訓練的真實數(shù)據(jù)正在枯竭。DeepMind在一篇論文中深入探討了Scaling問題,并得出結(jié)論:為充分訓練一個模型,其token數(shù)量需要達到該模型參數(shù)量的20倍。

  目前,已知閉源模型中訓練token數(shù)最多的是GPT4,約為20T;開源模型中訓練token數(shù)最多的是LLaMA3,約為15T。照此計算,如果一個5000億參數(shù)的Dense模型要達到相同的訓練效果,則需要訓練約token數(shù)為107T,而這已遠超當前業(yè)界擁有的數(shù)據(jù)量。

  因此,使用合成數(shù)據(jù)已經(jīng)成為大模型的一個共識。有預測數(shù)據(jù)顯示,到2026年,自然數(shù)據(jù)將被大模型全部用完,而2030年,人工智能使用的合成數(shù)據(jù)將超過真實數(shù)據(jù)。

  但傅盛認為,直接使用合成數(shù)據(jù)訓練大模型存在巨大風險。由于合成數(shù)據(jù)本身不可避免地帶有系統(tǒng)性偏差,若直接將其用于訓練,模型可能會錯誤地將這些偏差視為常規(guī),長期下來,模型的認知可能會出現(xiàn)致命缺陷。

  所以合成數(shù)據(jù)也需要進行一些處理,如人工調(diào)優(yōu)或者是用其他數(shù)據(jù)進行增強,來提升合成數(shù)據(jù)質(zhì)量。

  而針對真實數(shù)據(jù),最顯著的問題是利用率不高。許多企業(yè)有足夠的數(shù)據(jù),但是訓練出的大模型效果總是不理想,原因也在于他們的數(shù)據(jù)質(zhì)量不夠高。

  挖掘數(shù)據(jù)服務(wù)商機

  基于此,獵豹移動也看到一個商機,其控股公司獵戶星空推出了全新的數(shù)據(jù)服務(wù)產(chǎn)品——AI數(shù)據(jù)寶AirDS(AI-Ready Data Service)。

  AI數(shù)據(jù)寶AirDS提供的服務(wù)涵蓋數(shù)據(jù)收集、清洗、標注、提示詞工程以及評估等環(huán)節(jié)。傅盛表示,因為獵豹移動自己也在訓練大模型,所以相對于傳統(tǒng)的數(shù)據(jù)標注公司,獵豹移動對大模型有更深刻的理解,也更能滿足企業(yè)對數(shù)據(jù)的需求。

  需要指出的是,目前的數(shù)據(jù)服務(wù)依然離不開人工。在大模型時代,數(shù)據(jù)篩選、清理等環(huán)節(jié),可以借助一些工具提高效率,但要想獲得高質(zhì)量數(shù)據(jù),人工精細標注仍是不可或缺的。

  傅盛表示,在大模型時代,獵豹移動的核心業(yè)務(wù)模式并非通過模型接口來賺錢,而是通過幫助客戶實現(xiàn)AI應用的落地來創(chuàng)造價值。

  該業(yè)務(wù)模式的核心是圍繞大模型的應用場景進行深度挖掘。以AI數(shù)據(jù)寶(AirDS)為例,獵豹移動通過數(shù)據(jù)服務(wù)產(chǎn)品,幫助企業(yè)客戶實現(xiàn)從數(shù)據(jù)清洗到標注、再到應用優(yōu)化的全流程服務(wù),這不僅大幅提升了企業(yè)的AI應用效果,也為獵豹移動創(chuàng)造了巨大的商業(yè)化空間。

  目前,AI數(shù)據(jù)寶的成功案例已經(jīng)覆蓋了多個行業(yè),包括移動通信、互聯(lián)網(wǎng)娛樂、新能源汽車等。

  對于大模型未來的發(fā)展,傅盛認為,盡管技術(shù)瓶頸已使得模型的迭代速度放緩,但應用場景的深度和廣度卻在不斷擴展。特別是在搜索、企業(yè)服務(wù)等垂直行業(yè),隨著數(shù)據(jù)質(zhì)量和應用能力的提升,AI有望為行業(yè)帶來革命性的變革。

  “明年將是應用大繁榮的一年,”傅盛預測,“大模型的能力已經(jīng)相對穩(wěn)定,下一步的競爭將更多依賴于如何在特定場景中應用大模型。只要場景足夠清晰,它的爆發(fā)力將非常強。”

(文章來源:21世紀經(jīng)濟報道)

相關(guān)推薦
免責聲明
本文所包含的觀點僅代表作者個人看法,不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險,讀者在采取與本文內(nèi)容相關(guān)的任何行動之前,請務(wù)必進行充分的盡職調(diào)查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負任何責任。

熱門文章