新火種
2023-12-25 
入口和粘性決定大模型應(yīng)用成?。⌒∶讏鼍疤烊?，秀技術(shù)參數(shù)沒意義。
小米集團(tuán)技術(shù)委員會AI實(shí)驗(yàn)室大模型團(tuán)隊(duì)負(fù)責(zé)人欒劍，在MEET2024智能未來大會上，透露了小米大模型獨(dú)有的方法論。
作為大模型應(yīng)用的先行者、率先在手機(jī)端跑通大模型的小米，早早將輕量化和本地部署作為自身大模型應(yīng)用突破點(diǎn)?，F(xiàn)場欒劍表示將大模型搭載到硬件設(shè)備里面去充當(dāng)大腦，是件很酷的事情。
面對當(dāng)下大模型發(fā)展趨勢， 他坦言：從技術(shù)參數(shù)上秀肌肉已經(jīng)沒什么意義，接下來應(yīng)該回歸到怎么應(yīng)用。而大模型應(yīng)用成敗的關(guān)鍵，欒劍認(rèn)為主要在兩個(gè)關(guān)鍵點(diǎn)：
為了完整體現(xiàn)欒劍關(guān)于大模型的研發(fā)和應(yīng)用思考，新火種在不改變原意的基礎(chǔ)上，對他的演講內(nèi)容進(jìn)行了編輯整理。
關(guān)于MEET智能未來大會：MEET大會是由新火種主辦的智能科技領(lǐng)域頂級商業(yè)峰會，致力于探討前沿科技技術(shù)的落地與行業(yè)應(yīng)用。今年共有數(shù)十家主流媒體及直播平臺報(bào)道直播了MEET2024大會，吸引了超過300萬行業(yè)用戶線上參會，全網(wǎng)總曝光量累積超過2000萬。
演講亮點(diǎn)小米科技戰(zhàn)略總結(jié)成公式就是（軟件×硬件）AI ，這是科技行業(yè)第一家將AI放在指數(shù)位置上的公司。我們認(rèn)為AI是全新的生產(chǎn)力，會對未來軟硬件產(chǎn)品發(fā)展和變化帶來深刻影響。假設(shè)我們將大模型作為硬件設(shè)備的大腦，搭載到硬件設(shè)備里面去，這將是件很酷的事情。小米要做的，不是通用大模型、垂類大模型，而是場景大模型。輕量化和本地部署是小米大模型突破點(diǎn)。大模型有三個(gè)要素，分別是大數(shù)據(jù)、大參數(shù)、大訓(xùn)練任務(wù)。大模型從技術(shù)參數(shù)上來秀肌肉我覺得沒什么意義了，接下來應(yīng)該回歸到怎么把大模型用好。云邊端結(jié)合是將來大模型發(fā)展而一條重要途徑。要實(shí)現(xiàn)云邊端的結(jié)合肯定離不開軟件層面上打通。大模型應(yīng)用成敗兩個(gè)關(guān)鍵點(diǎn)：一個(gè)在流量入口，另一個(gè)在用戶粘性。主動智能是小米澎湃OS非常重要的亮點(diǎn)。小米全新升級的「人車家全生態(tài)」戰(zhàn)略，為大模型的應(yīng)用搭好了舞臺。首家將AI放在戰(zhàn)略指數(shù)位置的公司今天跟大家分享一下小米大模型的研發(fā)思路，以及大模型在小米接下來可能的應(yīng)用場景。
今年8月份，小米宣布了自己的科技戰(zhàn)略：深耕底層技術(shù)，長期持續(xù)投入，軟硬深度結(jié)合，AI全面賦能?？偨Y(jié)成公式就是（軟件×硬件）AI。
作為科技行業(yè)第一家將AI放在指數(shù)位置上的公司，我們認(rèn)為AI是全新的生產(chǎn)力，會對未來軟硬件產(chǎn)品發(fā)展和變化帶來深刻影響，所以一定要重視AI、投入AI，這也是將小米打造成硬核科技公司的必由之路。
AI既然這么重要，小米AI上的積累有哪些呢？今天就來簡單回顧一下。
早在2016年，小米內(nèi)部創(chuàng)建首個(gè)專注AI的視覺團(tuán)隊(duì)，主打?yàn)槭謾C(jī)拍照服務(wù)。隨后成立了語音聲學(xué)、人機(jī)對話、知識圖譜等一系列AI團(tuán)隊(duì)，小米AI實(shí)驗(yàn)室應(yīng)運(yùn)而生。
經(jīng)過兩年多努力，小米所有產(chǎn)品都用上自研的AI技術(shù)，當(dāng)業(yè)務(wù)部門需要支援時(shí)，我們也能派出大量專家?guī)椭焖俳M建技術(shù)團(tuán)隊(duì)。發(fā)展到今天，小米各個(gè)部門都散布著我們的AI工程人員。
從另一個(gè)維度看，小米在技術(shù)上的投入近幾年持續(xù)高速增長，最近幾年復(fù)合增長率達(dá)到38.4%，今年我們的投入會達(dá)到200億元，最近5年（2022-2026）會投入到一千個(gè)億。這是非?？捎^的一筆投入，說明我們技術(shù)團(tuán)隊(duì)在持續(xù)成長，也說明我們踐行小米科技戰(zhàn)略的決心。
今年提到AI一定繞不開大模型，今年4月份小米宣布成立大模型團(tuán)隊(duì)，將輕量化和本地部署作為小米大模型突破點(diǎn)。
不少同行來問背后的原因。
首先看小米的特色。小米有各種各樣的硬件設(shè)備，今天小米是全球最大消費(fèi)級IoT平臺。截至今年三季度，小米IoT平臺已連接設(shè)備6.99億，5臺以上的小米設(shè)備用戶達(dá)到1370萬。
假設(shè)我們將大模型作為硬件設(shè)備的大腦，搭載到硬件設(shè)備里面去，這將是件很酷的事情。
比如有臺掃地機(jī)器人，大概率我們不會跟它聊天，不會讓它幫寫小作文，但它需要路徑規(guī)劃、躲避障礙物以及判斷什么地面需用什么方法清潔。
將這種能力總結(jié)一下，可能并不是行業(yè)所說的通用大模型，也不是垂類大模型，而是場景大模型，這也是小米特別關(guān)注的以及所要做的。
我們認(rèn)為，大模型有三個(gè)要素，分別是大數(shù)據(jù)、大參數(shù)、大訓(xùn)練任務(wù)。哪個(gè)要素才是大模型產(chǎn)生涌現(xiàn)能力、泛化能力的關(guān)鍵？我們做了一些實(shí)驗(yàn)。
今年8月份發(fā)布的兩個(gè)大模型，參數(shù)量分別在13億和60億，并在中文的兩個(gè)主要榜單上做了測試。其目的是驗(yàn)證端側(cè)大模型（參數(shù)不那么大）通過定制和優(yōu)化，是否能在目標(biāo)場景中達(dá)到媲美云端大模型效果。
第二步，是驗(yàn)證端側(cè)大模型是否能在手機(jī)上正常運(yùn)行，達(dá)到用戶真實(shí)使用條件要求。10月，小米在高通驍龍8Gen 3芯片上基于NPU在手機(jī)端跑通60億參數(shù)模型，生成速度和功耗完全滿足正常使用的要求。
到這一步為止，我們把大模型搭載到設(shè)備端的設(shè)想得到全部驗(yàn)證。從技術(shù)參數(shù)上來秀肌肉我覺得沒什么意義了，接下來我們回歸到怎么把大模型用好。
目前AI大模型技術(shù)應(yīng)用已經(jīng)深入小米全系統(tǒng)，包括實(shí)時(shí)字幕、小愛輸入助手、圖像生成與搜索等技術(shù)等。大模型在端側(cè)上的功能探索只是剛剛開始，使用價(jià)值絕對不僅止于此。
主動智能是小米澎湃OS非常重要的亮點(diǎn)接下來展望一下大模型在小米會發(fā)生什么變化。
前面提到，將大模型作為大腦放到智能設(shè)備里去，就能獨(dú)立完成一些簡單任務(wù)，但在復(fù)雜條件下，可能還需要同場景多設(shè)備協(xié)同。
這時(shí)候一個(gè)設(shè)備就完成不了了，請求會上升到邊緣設(shè)備。邊緣設(shè)備就是一個(gè)場景里算力和存儲能力最強(qiáng)的設(shè)備。通過這臺設(shè)備協(xié)同場景下所有智能設(shè)備幫我們一起完成。當(dāng)請求變得更為復(fù)雜時(shí)候，需要跨場景，這時(shí)候請求就需要上升到云端了。
這樣做的主要目的是什么？
大模型服務(wù)成本很高，用戶使用成本也很高。我們做分布式計(jì)算，盡量把計(jì)算放到邊緣側(cè)，放到端側(cè)，這樣讓用戶使用成本降到最低。
存儲也是基于同樣的考慮，用戶數(shù)據(jù)，也是能放到端側(cè)就放到端側(cè)，能放到邊緣側(cè)就放到邊緣側(cè)，這樣也是最大程度地從物理上保護(hù)用戶數(shù)據(jù)的隱私安全。
云邊端結(jié)合是將來發(fā)展的一條重要途徑。要實(shí)現(xiàn)云邊端的結(jié)合肯定離不開軟件層面上打通。
小米近期發(fā)布的澎湃OS操作系統(tǒng)，就是為了萬物互聯(lián)而設(shè)計(jì)，我們在澎湃操作系統(tǒng)里有個(gè)AI子系統(tǒng)，它是個(gè)思考中樞。
如果將智能設(shè)備比喻成小動物，這個(gè)智能中樞就可以理解成馴獸師或魔法師。通過智能設(shè)備延伸它的感官，充分采集用戶所在環(huán)境的信息。獲取信息之后，再由Xiaomi HyperMind做思考判斷以及規(guī)劃，再將指令下發(fā)到需要執(zhí)行的智能設(shè)備上，讓它們協(xié)同完成任務(wù)。
更重要的是，Xiaomi HyperMind是有學(xué)習(xí)能力的，除了被動地完成用戶的請求以外，還能在用戶使用一段時(shí)間以后了解到用戶的使用習(xí)慣，產(chǎn)生與用戶的默契。在它發(fā)現(xiàn)當(dāng)前場景和以前某個(gè)場景比較相似的時(shí)候，會主動地做一些用戶建議并提供一些服務(wù)。
主動智能也是小米澎湃OS非常重要的亮點(diǎn)。
今年我們將小米集團(tuán)戰(zhàn)略從手機(jī)xAIoT升級到「人車家全生態(tài)」，為大模型的應(yīng)用搭好了舞臺。
可以想象一下，每臺智能設(shè)備上面都有符合它自己能力的大腦，能夠獨(dú)立完成任務(wù)。他們通過小米澎湃OS互聯(lián)互通到一起，然后通過Xiaomi HyperMind控制它們。我們通過云邊端架構(gòu)為用戶提供最經(jīng)濟(jì)安全的服務(wù)，這是個(gè)非常了不起的框架，我們希望用3-5年將框架填滿。
大模型應(yīng)用成敗兩個(gè)關(guān)鍵點(diǎn)最后聊聊關(guān)于大模型應(yīng)用，大家都在探索一個(gè)問題：大模型應(yīng)用成敗關(guān)鍵是什么？我個(gè)人拋個(gè)磚，我認(rèn)為所有應(yīng)用可能都有兩個(gè)關(guān)鍵點(diǎn)：一個(gè)是流量入口，一個(gè)是用戶粘性。
大模型流量入口在哪里？最開始大家覺得是行業(yè)應(yīng)用，還是需要點(diǎn)開APP用大模型賦能，后來發(fā)現(xiàn)大模型自己可以成為一個(gè)入口，通過調(diào)用API來完成復(fù)雜的任務(wù)。
剛才說了大模型可以跟操作系統(tǒng)深度融合。歸根到底操作系統(tǒng)需要一個(gè)硬件，大家不可能跟空氣交互，一定要找到硬件，硬件才是入口，而小米絕對不缺硬件。
第二個(gè)用戶粘性。打個(gè)比方，當(dāng)一個(gè)城市開通第一條地鐵線時(shí)，大家可能會覺得很新鮮很好奇，但可能不會特別依賴它；但當(dāng)它形成一個(gè)無處不在的網(wǎng)絡(luò)時(shí)，大家對地鐵的依賴成長起來了。
大模型現(xiàn)在就是這樣的情況。現(xiàn)在大模型的主要使用方式還停留在簡單的文字交互，我們要探索的是讓大模型怎么無處不在地融入大家日常生活。
小米已經(jīng)搭好了人車家全生態(tài)的平臺，非常歡迎大家一起來共同建設(shè)，把大模型的應(yīng)用做好。
最后回顧一下小米的科技理念。我們要選擇對人類文明有長期價(jià)值的技術(shù)領(lǐng)域，并堅(jiān)持長期持續(xù)投入。
而以大模型為代表的AI，我認(rèn)為就是對人類文明有長期價(jià)值的技術(shù)領(lǐng)域。
我今天就講到這里，謝謝大家。
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個(gè)人看法，不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn)，讀者在采取與本文內(nèi)容相關(guān)的任何行動之前，請務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
