大模型的方向比速度更重要

今年AI確實很熱,客戶需求很強。不僅僅是大語言模型,而是所有AI相關的能力,比如機器視覺、語音識別、數(shù)智人等等,都特別感興趣。我們其實一直持續(xù)在AI上加大投入,從研究算法到服務客戶的場景需求,全面地布局。
很多人都喜歡從TO C的角度,去
我覺得對于大模型,最務實的做法,還是回到每個企業(yè)自身的痛點,比如降本或者增效,基于痛點,用大模型去解決產(chǎn)業(yè)實際問題。可能剛開始使用的版本,只能解決問題的80%,但因為你有一個很清晰的使用場景,用戶的反饋,能夠形成反哺,幫助你不斷打磨模型性能,讓解決問題的準確率,一步一步地提高。
正是基于這樣的考慮,我們從幾個方面,幫助產(chǎn)業(yè),真正把大模型的能力用起來。
一是打造高性能的AI基礎設施。海量大數(shù)據(jù)處理,模型的訓練、推理、部署和運維,以及智能化應用開發(fā)、調(diào)試等等,都離不開高性能的計算、存儲和網(wǎng)絡通信能力。
所以我們打造了高性能計算集群HCC、高性能網(wǎng)絡星脈、向量數(shù)據(jù)庫等產(chǎn)品,能夠幫助客戶快速、低成本構(gòu)建大模型和智能應用。
二是提供多元化的模型選擇和精調(diào)解決方案。隨著大模型的產(chǎn)業(yè)落地,大家更
今年大會(全球數(shù)字生態(tài)大會)的主論壇中,我們正式亮相了騰訊自研通用大模型——混元,它有超千億參數(shù)規(guī)模,預訓練語料超2萬億tokens,有強大的中文理解與創(chuàng)作能力、邏輯推理能力,以及可靠的任務執(zhí)行能力,經(jīng)過騰訊內(nèi)部的很多產(chǎn)品中驗證,效果不錯。企業(yè)可以通過API調(diào)用混元,或者將混元作為基底模型,為不同產(chǎn)業(yè)場景構(gòu)建大模型應用。
混元之外,在騰訊云行業(yè)大模型精選商店中,我們還上架了20多種行業(yè)最新、最流行的開源大模型,以及20多個領域的行業(yè)大模型。企業(yè)可以根據(jù)需要,選擇合適的模型,然后借助騰訊云智能的TI平臺,導入企業(yè)專有數(shù)據(jù),做進一步的訓練與精調(diào),快速生成更有針對性的專屬大模型,滿足企業(yè)個性化需求。
三是推出一系列智能化的應用,推動業(yè)務全鏈條智能。我們基于大模型打造了全棧產(chǎn)品體系,應用于業(yè)務不同環(huán)節(jié),幫助企業(yè)全鏈條提質(zhì)增效。比如金融行業(yè),大模型的能力已經(jīng)應用在開戶、業(yè)務處理、風控、售后客服等多個業(yè)務場景。
客戶服務中,專屬大模型與數(shù)智人的結(jié)合,幾分鐘就可以完成一次在線開戶;在海量單據(jù)處理中,基于大語言模型能力TI- OCR,通過少量標注樣本,就可以識別回單、發(fā)票、申請書等多種表單,準確率超過95%,而且還能自動提煉核心標簽,生成電子數(shù)據(jù)文件,進行后續(xù)的商業(yè)分析。
借助金融風控大模型,金融機構(gòu)通過小樣本提示,就可以自動生成專屬的反欺詐模型,建模整個流程時間從2周減少到2天,整體反欺詐效果也提升了20%左右。
大語言模型的核心是自然語言處理,語言一般首先是用在跟用戶有溝通、交流的場景中,比如客服、售后。通過大語言模型,能夠?qū)崿F(xiàn)降本增效,或者提升用戶體驗。所以,跟用戶打交道比較多的場景,大語言模型能發(fā)揮價值的地方也更多。還比如文生圖的能力,可以用在需要頻繁做圖的場景,比如廣告投放、營銷等等,但也不是所有的行業(yè),都需要做在線投放和營銷,還需要對行業(yè)和客戶做進一步篩選。
其實,各行各業(yè)對大模型普遍都很感興趣,都在各自探索創(chuàng)新的落地方式。比如醫(yī)療領域,騰訊健康積累了很多健康領域的知識,給超過1000家醫(yī)院去提供AI導輔診的能力,為患者提供更準確的咨詢、更詳盡的解答。
之前跟客戶交流,他們非常感興趣怎么通過醫(yī)療行業(yè)大模型來服務聾啞群體。融合大語言模型、數(shù)智人、機器視覺技術,就能把語音溝通變成手語溝通,幫助患者解答健康問題。
通過這些案例可以看到,大模型的產(chǎn)業(yè)應用,可能不一定是天馬行空、很“嗨”的場景,也許就是怎么讓售后服務高效,能更快解答客戶的疑問,雖然樸實但有用。
我們自己就比較喜歡基于自身的業(yè)務場景去構(gòu)造產(chǎn)品,打磨產(chǎn)品,達到滿意的效果,然后把產(chǎn)品開放出來,給行業(yè)客戶去用。
比如我在會上分享的樂享,它也是我們內(nèi)部知識庫社區(qū),CSIG上萬人中,大量一線人員都是通過這個平臺,了解產(chǎn)品的最新功能,反饋問題,讓產(chǎn)品不斷去補齊能力;產(chǎn)品人員也可以把經(jīng)典的客戶案例、產(chǎn)品QA放在上面,方便一線銷售人員去應對客戶咨詢和提問,信息非常豐富。
但是以前,員工想要從這么大體量的知識庫里,找到想要的信息,不是那么容易的。所以,我們基于行業(yè)大模型,打造了AI助手,用戶通過自然語言提問,就能快速從繁雜多樣的資料中,快速找到想要的信息,效率非常高。
這個過程中,也會面對大量數(shù)據(jù)的存儲、查詢等突出問題,我們通過向量數(shù)據(jù)庫,把非結(jié)構(gòu)化的數(shù)據(jù),有序地存儲以及快速檢索,很好地解決了這個難點。
不只是樂享,當年我們做騰訊會議,也是覺得原來的會議軟件不好用。如今,我們又在騰訊會議中上線了AI小助手,能夠?qū)崿F(xiàn)會議內(nèi)容自動摘要、會管會控;還有客服場景,我們也非常
過去四個月,我們不斷地通過大模型,去升級騰訊云的所有產(chǎn)品,基于自身的場景,打磨產(chǎn)品,很多客戶對于騰訊云產(chǎn)品的這些新能力都非常感興趣,也覺得很實在。
我們更多
用好數(shù)據(jù)的過程中,會涉及到模型的訓練、精調(diào)、數(shù)據(jù)標簽的管理等工作,同時要降低模型的使用成本,還需要做訓練加速的工作。
所以,從一個大模型,到提供一個用戶可以感受到的服務,中間有很多的環(huán)節(jié)和工序。騰訊其實是提供,整個端到端的AI服務流程中所需要的“全鏈條工具”。我們的TI平臺就是一個能滿足整個工序、環(huán)節(jié)的需求,給客戶提供高效模型搭建服務的重要工具。這可能是大家比較少從友商那里聽到的。
至于商業(yè)化,現(xiàn)在談這個可能有點早,但很多機會是能夠看到的,比如訓練需要非常大的算力,今天的計算成本很高,會帶來一定收入。另外,模型搭建和精調(diào)過程中,要用到的工具,形成客戶依賴,長期來看,也會建立起一個可持續(xù)的商業(yè)模式。
我們的內(nèi)部管理相對比較開放。很多場景、產(chǎn)品都在使用大模型,方式也比較多樣。他們接入了混元,但同時也會針對業(yè)務自身的場景數(shù)據(jù),做一些定制化的模型開發(fā)和精調(diào)。
騰訊做大模型,有整合力量辦大事的地方,針對不同的產(chǎn)品場景,其實需求差異蠻大的,我們會允許不同的應用,去選擇最符合客戶需求的一些模型,重點是每一個產(chǎn)品是不是能夠給用戶,提供最好的體驗。
比如,騰訊會議其實在早期,也嘗試接入了第三方的模型,跑通整個業(yè)務流程。有些甚至就是在客戶自己的開源模型上,基于企業(yè)數(shù)據(jù)構(gòu)建一個專屬模型,來對接騰訊會議。
對內(nèi)我們保持開放,對外也是一樣。今年6月,我們在行業(yè)大模型技術交流會上就說,不同行業(yè)、不同場景的需求很不一樣,可能需要不同的模型,有針對性地提供支持,需要有多樣化的模型選擇。我們既給客戶提供混元大模型這樣一個底座,也把幾十個開源模型,放在騰訊云智能的大模型商店里,提供給客戶使用。
開放,其實是我們做To B業(yè)務的一個非常重要的價值觀。不只是大模型,包括像數(shù)據(jù)庫,也有很多細分類目,這么多年,大家一直在用不同的數(shù)據(jù)庫,解決不同的問題。我們的TDSQL在TPC-C打榜拿到了世界冠軍,解決的是海量高并發(fā)場景下在線交易的問題,如果用AP分析型數(shù)據(jù)庫,可能就無法解決。
前一陣,我們也發(fā)布了針對大模型場景下,滿足客戶需求的向量數(shù)據(jù)庫,解決的是企業(yè)使用大模型前需要處理的數(shù)據(jù)清洗、處理等問題。
我一直覺得,要比較務實地看待技術,什么問題適合用什么技術、什么方式來解決,就去給用戶提供合適的工具。而不是說你手上有一個錘子,看到什么都是釘子,只有一招。這不是CSIG用技術解決產(chǎn)業(yè)問題的理念。
大模型發(fā)展初期,在技術成型前的投入上,我覺得資源分配需要有節(jié)奏,我有一個“721”的管理理念,70%的資源投入在當期收入和利潤上,這樣才能讓團隊生存;20%投入在發(fā)展中期的技術,這種技術可能再多兩年,就會有商業(yè)化變現(xiàn),可以作為增補項來補充成熟業(yè)務;最后的10%,是投在仍處于發(fā)展早期的前沿技術,是面向未來的機會布局,可能要三五年甚至更久才能帶來商業(yè)回報。對于騰訊這樣的公司來說,我覺得這樣的規(guī)劃是比較合理的。
AI將會是我們的一項長期的、戰(zhàn)略性的投入,因為我們非常看好它的未來。我覺得AI技術也是這樣一個發(fā)展模式,早期的AI能力能在部分場景,解決部分問題,但是每一次的技術升級、能力進步,又會打開更多新的機會,AI未來還會有更多能力的提升,我們非常看好,也會持續(xù)投入。
*湯道生,騰訊集團高級執(zhí)行副總裁、騰訊云與智慧產(chǎn)業(yè)事業(yè)群CEO。原文刊載于正和島
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法,不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險,讀者在采取與本文內(nèi)容相關的任何行動之前,請務必進行充分的盡職調(diào)查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負任何責任。