新火種
2023-11-02 
vivo發(fā)布藍心大模型矩陣新機X100系列將搭載端側(cè)大模型
《科創(chuàng)板日報》11月1日訊（記者 黃心怡），vivo今日發(fā)布自研AI藍心大模型矩陣，包括10億藍心大模型1B、70億藍心大模型7B、700億藍心大模型70B、1300億藍心大模型130B和1750億藍心大模型175B五款不同參數(shù)規(guī)模。此外，130億藍心大模型實現(xiàn)端側(cè)跑通，并將開源70億藍心大模型。
在會后的采訪中，vivo相關(guān)負責人表示，即將發(fā)布的vivo X100系列會向提供1B和7B端側(cè)大模型選項，用戶可選擇本地化部署。目前，大模型研發(fā)在算力方面的挑戰(zhàn)很大?！靶酒茈y買，成本也很高。我們做了6年相關(guān)研究，每年2、30億的成本，數(shù)據(jù)和算力占一半，人力占一半。目前云端大模型調(diào)用一次需要1分5左右的成本。”
▍新機vivo X100系列將搭載7B端側(cè)大模型
在這五款vivo自研大模型中，10億量級模型是主要面向端側(cè)場景打造的專業(yè)文本大模型，具備本地化的文本總結(jié)、摘要等能力。70億模型是面向手機打造的端云兩用模型，具有語言理解、文本創(chuàng)作能力，同時，上述兩個量級的模型支持高通和MTK最新旗艦雙平臺端側(cè)化部署。而700億模型是面向云端服務的主力模型。
此外，vivo自研自然語言對話機器人“藍心千詢”正式發(fā)布，公版APP將上線各大手機應用市場。而“藍心小V”智能助手也將在手機端上線，在現(xiàn)場演示中，“小V”對照片進行路人一鍵消除，并基于照片進行朋友圈文案寫作。
記者親身體驗了藍心小V，可以給出指令要求其進行文稿撰寫、圖片生成。
編輯一份手機行業(yè)綠色發(fā)展的倡議書
畫一幅女孩在玩手機的圖
寫一篇vivo發(fā)布自研大模型的新聞稿，生成的文章可導出為word、PDF等形式
設計五個服裝店的名字
從會場展示來看，目前藍心大模型還支持虛擬人生成、AI音頻生成，也具備一定的數(shù)理邏輯能力。
對記者的影像進行虛擬人生成
輸入對音頻的風格要求，快速生成一段10秒音樂
vivo MathGPT對數(shù)學作業(yè)進行解題和批改
輸入一道雞兔同籠的數(shù)學圖
vivo副總裁、OS 產(chǎn)品副總裁、vivo AI全球研究院院長周圍在采訪中表示，vivo在2018年成立人工智能圖譜研究院，目前已積累了13000T的多種模態(tài)數(shù)據(jù)以及2800T中文文本數(shù)據(jù)，并已組建了150人的工程化團隊，千億模型的訓練周期為60天、百億模型的訓練周期為14天。
據(jù)了解，vivo藍心大模型將在OriginOS 4系統(tǒng)中被首次應用，會在即將發(fā)布的vivo X100系列上搭載。
vivo AI解決方案中心總監(jiān)謝偉欽介紹，vivo X100系列將提供1B和7B端側(cè)大模型選項，用戶可選擇本地化部署。
“7B在任務拆解方面能夠勉強勝任，但其實13B大模型會更優(yōu)。我們已經(jīng)實現(xiàn)了130億藍心大模型在端側(cè)跑通，但所占用的內(nèi)存比較大，這對現(xiàn)有手機配置有較高的挑戰(zhàn)?！敝車f，“從長期來看大模型對行業(yè)的影響是顛覆性的，未來每個人都需要一個精靈助理的角色，甚至攝像頭、機器狗都會具備這樣的交互能力?！?/p>
談及大模型研發(fā)的難點，周圍坦言，一是數(shù)據(jù)量，二是算力限制。“數(shù)據(jù)不夠就沒有機會，這也是為何我們在18年成立圖譜研究院。而算力方面的挑戰(zhàn)很大。芯片很難買，成本也很高。我們做了6年相關(guān)研究，每年2、30億的成本，數(shù)據(jù)和算力占一半，人力占一半。目前來看，兩年內(nèi)可能還不會有商業(yè)模式上的機會，我們還是保持平常心?！?/p>
談及藍心大模型的性能水平，周圍表示，與GPT4還有接近一年的差距?！拔覀冋谘邪l(fā)多模態(tài)大模型。這次推出不同參數(shù)量的大模型矩陣，一方面是在端側(cè)實現(xiàn)大模型，能更好地維護用戶的隱私安全；另一方面是為了提升體驗，端側(cè)時延更短。另外，端側(cè)的應用成本更低。而云端大模型調(diào)用一次需要1分5左右的成本。”
▍面向AI大模型時代 vivo發(fā)布自研操作系統(tǒng)藍河
在本次開發(fā)者大會上，vivo還首次發(fā)布了自研藍河操作系統(tǒng)，系統(tǒng)框架由Rust語言編寫，將引入藍心大模型能力，支持復雜的意圖識別和交互方式，這既為用戶提供了聲音、圖片、手勢等交互方式，也為開發(fā)者提供了自動編寫代碼等應用開發(fā)范式。
記者在現(xiàn)場看到，vivo WATCH3將成為首款搭載藍河操作系統(tǒng)的設備，用戶可以通過語音的方式，基于AI能力來創(chuàng)作手表表盤。
據(jù)介紹，藍河操作系統(tǒng)作為一個標準的操作系統(tǒng)，兼容不同的硬件體系結(jié)構(gòu)。通過內(nèi)核抽象層實現(xiàn)了對不同內(nèi)核兼容，藍河是符合Posix標準的操作系統(tǒng)，支持Linux內(nèi)核，RTOS內(nèi)核。
周圍表示，之所以啟動藍河操作系統(tǒng)的研發(fā)，正是考慮到未來大模型時代對終端的需求。
“藍河操作系統(tǒng)與現(xiàn)有的OriginOS 4系統(tǒng)并非替換關(guān)系，是面向未來的智能體手機來研發(fā)的。大模型需要較高的性能配置支撐，當下的終端很難符合要求。我們希望低配置的終端也能以很高的流暢性來跑端側(cè)大模型，這是開發(fā)藍河操作系統(tǒng)的初衷。目前該系統(tǒng)不兼容安卓，后續(xù)還會上其他IoT終端，但暫時不會在手機上應用?！?/p>
相關(guān)推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內(nèi)容相關(guān)的任何行動之前，請務必進行充分的盡職調(diào)查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負任何責任。
