華為李瀟:昇騰AI加速金融行業(yè)智能化升級(jí)
2024年11月28日,以“打造新生態(tài)、合作贏未來”為主題的2024數(shù)字產(chǎn)業(yè)生態(tài)伙伴大會(huì),在重慶悅來國(guó)際會(huì)議中心開幕。
本次大會(huì)由重慶市經(jīng)濟(jì)和信息化委員會(huì)、重慶兩江新區(qū)管理委員會(huì)、中共重慶市委網(wǎng)絡(luò)安全和信息化委員會(huì)辦公室、中共重慶市委金融委員會(huì)辦公室、重慶市科學(xué)技術(shù)局、重慶市人力資源和社會(huì)保障局、重慶市大數(shù)據(jù)應(yīng)用發(fā)展管理局、重慶市知識(shí)產(chǎn)權(quán)局、重慶市科學(xué)技術(shù)協(xié)會(huì)等9大政府部門聯(lián)合主辦,重慶市發(fā)展和改革委員會(huì)支持,馬上消費(fèi)金融股份有限公司承辦,華為技術(shù)有限公司、阿里云計(jì)算有限公司、騰訊云計(jì)算(北京)有限責(zé)任公司、北京百度網(wǎng)訊科技有限公司、北京中關(guān)村科金技術(shù)有限公司、重慶市大模型聯(lián)盟等單位協(xié)辦。
在會(huì)上,華為中國(guó)政企昇騰計(jì)算業(yè)務(wù)總經(jīng)理李瀟發(fā)表“昇騰AI加速行業(yè)智能化升級(jí)”主旨演講,并表示:昇騰AI將堅(jiān)持圍繞基礎(chǔ)軟硬件、訓(xùn)推解決方案持續(xù)演進(jìn),做深技術(shù)根基。昇騰構(gòu)筑高效和可靠的算力基礎(chǔ)設(shè)施,助力金融機(jī)構(gòu)擁抱大模型孵化系列應(yīng)用創(chuàng)新,加速金融行業(yè)智能化升級(jí)。
人工智能走深向?qū)崳竽P蛯W(xué)習(xí)和泛化能力持續(xù)增強(qiáng),促使推理應(yīng)用快速增長(zhǎng)。今年,全球AI應(yīng)用活躍用戶數(shù)量已從21年的1800萬(wàn)飆升至2.3億,其中個(gè)人及企業(yè)級(jí)付費(fèi)用戶比例達(dá)15%,AI應(yīng)用已逐步探索出多種商業(yè)模式。伴隨AI Agent、RAG、SFT等技術(shù)發(fā)展,大模型準(zhǔn)確度可達(dá)90%以上,促進(jìn)了AI與業(yè)務(wù)的融合。在互聯(lián)網(wǎng)、金融等數(shù)字化轉(zhuǎn)型水平較高的行業(yè),AI滲透率已超過30%。根據(jù)預(yù)測(cè),到2030年,AI將帶動(dòng)超過萬(wàn)億的產(chǎn)業(yè)空間,未來充滿著無限的想象。
昇騰打造了開放易用的全系列訓(xùn)練、推理、訓(xùn)推一體硬件產(chǎn)品、創(chuàng)新的硬件使能CANN和全流程工具鏈,全面加速并行算法、模型和應(yīng)用的開發(fā)和創(chuàng)新。
在解決方案層面,訓(xùn)練系統(tǒng)要充分發(fā)揮有效算力,訓(xùn)練性能、穩(wěn)定性和開發(fā)成本是關(guān)鍵。昇騰訓(xùn)練解決方案始終圍繞“高性能、高可用、高易用”持續(xù)創(chuàng)新,滿足大模型訓(xùn)練算力的增長(zhǎng)需求。在訓(xùn)練性能上,昇騰獨(dú)創(chuàng)了多種優(yōu)化算法,如計(jì)算優(yōu)化、內(nèi)存優(yōu)化和通信算法優(yōu)化,大幅提升了訓(xùn)練效率。推理應(yīng)用是人工智能釋放價(jià)值的關(guān)鍵,為了更好地匹配大模型應(yīng)用演進(jìn)趨勢(shì),昇騰推理解決方案秉承開放、快速部署、極致性能的原則,在有效吞吐、服務(wù)化和算力部署等能力上持續(xù)演進(jìn),實(shí)現(xiàn)更高的AI落地經(jīng)濟(jì)性。
在軟件層面,CANN是昇騰AI生態(tài)的根基和錨點(diǎn),CANN深度開放,上接各類AI框架、加速庫(kù)和應(yīng)用,向下使能算力資源調(diào)度和計(jì)算加速,實(shí)現(xiàn)典型融合算子開發(fā)周期從2個(gè)月縮短至1.5人周,使能客戶和伙伴自主開發(fā);MindSpore持續(xù)提升動(dòng)靜統(tǒng)一能力,以1套API使能2種模式開發(fā),讓開發(fā)者忽略動(dòng)靜態(tài)圖開發(fā)差異,小時(shí)級(jí)編碼。通過編譯選項(xiàng),實(shí)現(xiàn)動(dòng)/靜態(tài)執(zhí)行模式靈活選擇;昇騰分布式加速套件MindSpeed 1.0,提供100+預(yù)置模型、60+加速算法及算子、10余種微調(diào)算法,降低從預(yù)訓(xùn)練到增量訓(xùn)練的分布式開發(fā)成本,加速模型迭代。
為了方便金融等客戶部署AI推理應(yīng)用,我們開放了MindIE推理引擎,可以大幅提升推理吞吐性能,加快推理應(yīng)用開發(fā)及部署。同時(shí),昇騰構(gòu)建極簡(jiǎn)易用的全流程工具鏈MindStudio,快速支持大模型從訓(xùn)練開發(fā)到推理部署,讓整個(gè)流程更加便捷高效。
此外,李瀟還介紹了昇騰在金融行業(yè)的一些具體應(yīng)用場(chǎng)景,并指出客戶在選擇算力平臺(tái)的同時(shí),也要考慮應(yīng)用場(chǎng)景和模型的選擇。昇騰憑借強(qiáng)大的算力和軟件開放應(yīng)用的能力,已經(jīng)支持了多個(gè)基礎(chǔ)大模型和行業(yè)大模型的適配。同時(shí),昇騰還與合作伙伴一起,圍繞金融行業(yè)的智能化升級(jí),探索了多種AI應(yīng)用場(chǎng)景,如辦公、營(yíng)銷和客服等。當(dāng)前已與馬上消費(fèi)聯(lián)合開展了5大技術(shù)創(chuàng)新,馬上消費(fèi)的天鏡大模型已基于昇騰完成測(cè)試,并應(yīng)用于語(yǔ)音類業(yè)務(wù)場(chǎng)景,測(cè)試效果基本持平業(yè)界。其中智能客戶分流94.7%,問題識(shí)別率93.6%,精準(zhǔn)保障消費(fèi)者合法權(quán)益,提升效率。
面向未來,建議金融客戶選擇相對(duì)成熟的AI技術(shù)路線和可持續(xù)迭代的基礎(chǔ)設(shè)施,以保障關(guān)鍵行業(yè)的安全穩(wěn)定和可持續(xù)發(fā)展;行業(yè)應(yīng)聚焦成熟的場(chǎng)景,小步快跑地落地AI應(yīng)用;聯(lián)合主流模型廠商基于基礎(chǔ)大模型進(jìn)行金融數(shù)據(jù)增量訓(xùn)練,高效孵化出匹配自身業(yè)務(wù)的金融大模型,并提升整體的金融服務(wù)質(zhì)量和效率。
本文源自:金融界
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個(gè)人看法,不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對(duì)本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn),讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前,請(qǐng)務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對(duì)因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。