首頁(yè) > AI資訊 > 最新資訊 > 底層算力跨入萬(wàn)卡級(jí)別大模型“上車”又“造車”|WAIC2024

底層算力跨入萬(wàn)卡級(jí)別大模型“上車”又“造車”|WAIC2024

財(cái)聯(lián)社    2024-11-15

《科創(chuàng)板日?qǐng)?bào)》7月6日訊(記者 黃心怡)世界人工智能大會(huì)(WAIC)已經(jīng)來(lái)到了第七屆。AI逐步從遙不可及變得觸手可及。2024年,AI從百模大戰(zhàn)走向了應(yīng)用落地,從底層計(jì)算平臺(tái)到上層應(yīng)用,一輪更大的變革正在降臨。

▌算力邁入萬(wàn)卡級(jí)別 多元異構(gòu)成智算平臺(tái)側(cè)重點(diǎn)

隨著AIGC和大模型的熱潮,算力正從傳統(tǒng)的CPU、GPU邁入NPU、VPU甚至XPU主導(dǎo)的智能異構(gòu)算力時(shí)代。

記者在WAIC看到,對(duì)于國(guó)產(chǎn)算力兼容適配和異構(gòu)算力的調(diào)度成為AI基礎(chǔ)設(shè)施建設(shè)的側(cè)重點(diǎn)之一。

浪潮信息展示了支持多元算力和多模算法的新一代液冷智算中心,可覆蓋了不同的計(jì)算節(jié)點(diǎn),兼容了通用CPU、GPU、OAM多元算力,實(shí)現(xiàn)算力的聚合、調(diào)度、釋放,應(yīng)對(duì)AI計(jì)算、元宇宙、科學(xué)計(jì)算等不同的業(yè)務(wù)場(chǎng)景。

摩爾線程攜全棧AI產(chǎn)品和萬(wàn)卡集群解決方案首次亮相WAIC,展示了包括計(jì)算加速卡、服務(wù)器、超融合一體機(jī)、萬(wàn)卡集群方案和AIGC應(yīng)用,以及基于夸娥智算集群的行業(yè)大模型與應(yīng)用方案。

記者了解到,WAIC前夕,摩爾線程的AI旗艦產(chǎn)品夸娥智算集群解決方案從當(dāng)前的千卡級(jí)別大幅擴(kuò)展至萬(wàn)卡規(guī)模,為萬(wàn)億參數(shù)級(jí)別的復(fù)雜大模型訓(xùn)練而設(shè)計(jì)。此外,摩爾線程聯(lián)合中國(guó)移動(dòng)通信集團(tuán)青海有限公司、中國(guó)聯(lián)通青海公司、北京德道信科集團(tuán)、中國(guó)能源建設(shè)股份有限公司總承包公司、桂林華崛大數(shù)據(jù)科技有限公司分別就三個(gè)萬(wàn)卡集群項(xiàng)目進(jìn)行了戰(zhàn)略簽約。

算豐信息和優(yōu)刻得則宣布,與國(guó)內(nèi)主流AI芯片廠商達(dá)成深度合作,在優(yōu)刻得青浦智算中心上線首個(gè)了國(guó)產(chǎn)千卡智算集群,打造強(qiáng)大的國(guó)產(chǎn)通用GPU算力底座,已經(jīng)成功支持千億參數(shù)級(jí)別的國(guó)產(chǎn)大模型研發(fā)與驗(yàn)證。

天數(shù)智芯攜天垓與智鎧兩大系列多款產(chǎn)品在WAIC登場(chǎng)。記者獲悉,天數(shù)智芯參與建設(shè)的中國(guó)移動(dòng)智算中心(呼和浩特)項(xiàng)目,全集群系統(tǒng)已上線運(yùn)營(yíng)。該中心作為全球運(yùn)營(yíng)商領(lǐng)域內(nèi)規(guī)模最大的單體液冷智算中心,標(biāo)志著國(guó)家級(jí)N節(jié)點(diǎn)萬(wàn)卡規(guī)模AI訓(xùn)練場(chǎng)的建立,算力規(guī)模達(dá)6.7EFLOPS(FP16)。

大模型的訓(xùn)練和部署需要大量的計(jì)算資源,而訓(xùn)推一體機(jī)的開(kāi)箱即用滿足了政企用戶的需求。

極視角在WAIC帶來(lái)了極棧4.0 AI訓(xùn)推一體化基建平臺(tái),兼容適配英偉達(dá)、華為、寒武紀(jì)、中科曙光、天數(shù)智芯、海光、燧原、登臨等十余家國(guó)產(chǎn)芯片。開(kāi)發(fā)者一個(gè)訓(xùn)練任務(wù)可同時(shí)構(gòu)建多個(gè)異構(gòu)算法開(kāi)發(fā)實(shí)例。

天數(shù)智芯與新華三信息科技聯(lián)合推出了AIGC一體機(jī),搭載多款國(guó)內(nèi)外主流模型,可實(shí)現(xiàn)大模型應(yīng)用場(chǎng)景一站式交付,面向用戶需求進(jìn)行靈活定制,交付周期可縮短至小時(shí)級(jí)。

談及大模型所面臨的算力緊缺挑戰(zhàn),壁仞科技副總裁兼AI軟件首席架構(gòu)師丁云帆認(rèn)為,“解決算力瓶頸問(wèn)題需要從三個(gè)維度考慮:硬件集群算力、軟件有效算力、異構(gòu)聚合算力。做好這三個(gè)維度的工作,即使國(guó)產(chǎn)AI芯片單個(gè)算力不強(qiáng),也能通過(guò)綜合手段提升算力,滿足國(guó)內(nèi)大模型訓(xùn)練的需求。”

▌大模型“上車”、“造車”等新模式涌現(xiàn)

在云知聲展臺(tái),搭載山海大模型的智己L6成為現(xiàn)場(chǎng)焦點(diǎn)。結(jié)合大模型,智己L6獲得更強(qiáng)大的語(yǔ)音識(shí)別和理解能力,可以理解更廣泛的用戶語(yǔ)義,實(shí)現(xiàn)更流暢的交互體驗(yàn)。無(wú)論是復(fù)雜的導(dǎo)航、車控,還是車輛問(wèn)題,亦或是精彩圖片生成,系統(tǒng)都能快速響應(yīng),精準(zhǔn)判斷分類,為用戶提供服務(wù)。

圣點(diǎn)科技在本次大會(huì)上展示了其汽車手掌鑰匙產(chǎn)品。該產(chǎn)品通過(guò)非接觸式手掌靜脈識(shí)別,實(shí)現(xiàn)高安全的身份認(rèn)證和解鎖開(kāi)門操作。其技術(shù)原理基于手掌血液中的血紅蛋白吸收近紅外光,形成靜脈血管圖像,利用深度學(xué)習(xí)模型進(jìn)行特征提取和比對(duì),從而確認(rèn)用戶身份。

汽車手掌鑰匙展區(qū)

現(xiàn)場(chǎng)工作人員告訴《科創(chuàng)板日?qǐng)?bào)》,公司正和多家頭部車企溝通,如奔馳、奧迪、大眾以及頭部造車新勢(shì)力,共同開(kāi)發(fā)無(wú)鑰解鎖、智能手勢(shì)識(shí)別等應(yīng)用,未來(lái)將應(yīng)用于智能座艙實(shí)現(xiàn)整車智能化的身份安全管理,推動(dòng)新能源汽車邁入無(wú)鑰時(shí)代。

大模型不止“上車”,還能“造車”。 制造業(yè)是大模型應(yīng)用的主戰(zhàn)場(chǎng),而汽車正是制造業(yè)的一個(gè)重要的領(lǐng)域。

本屆WAIC上,中信國(guó)際電訊CPC聯(lián)合中企通信、中信戴卡,發(fā)布共創(chuàng)鋁制汽車零部件行業(yè)大模型的“人工智能+”新行動(dòng)。此次雙方聯(lián)合共創(chuàng)的鋁制汽車零部件行業(yè)大模型,將運(yùn)用人工智能和大數(shù)據(jù)等創(chuàng)新技術(shù),結(jié)合中信戴卡多年的制造業(yè)領(lǐng)域知識(shí)積累,在AI視覺(jué)賦能制造、AI賦能工藝優(yōu)化、AI賦能研發(fā)設(shè)計(jì)、AI賦能運(yùn)營(yíng)決策、AI賦能綠色低碳等多個(gè)領(lǐng)域,構(gòu)建鋁制汽車零部件垂直行業(yè)大模型。

▌C端殺手級(jí)應(yīng)用在哪?

大模型要在C端落地,離不開(kāi)端側(cè)模型和算力的支持。面壁智能在WAIC期間開(kāi)源業(yè)內(nèi)首個(gè)端側(cè)大模型工具集 "MobileCPM ",幫助開(kāi)發(fā)者一鍵集成大模型到APP。"MobileCPM "包含了開(kāi)源端側(cè)大模型、SDK開(kāi)發(fā)套件以及翻譯、摘要等豐富的intent(意圖) ,讓開(kāi)發(fā)者定制出滿足不同應(yīng)用場(chǎng)景需求的大模型 APP,低門檻速成大模型創(chuàng)業(yè)者。

社交平臺(tái)Soul App則在探索“AIGC+社交”,重點(diǎn)展出了“數(shù)字分身”“狼人魅影”和“異世界回響”等AI能力落地的新功能和新場(chǎng)景。

其中,游戲“狼人魅影”中引入了AI智能體,用戶可以與具備自主推理、發(fā)言、“偽裝”的AI一起進(jìn)行真實(shí)游戲?qū)Q。Soul還上線了獨(dú)立新產(chǎn)品“異世界回響”。該產(chǎn)品定位為AI社交平臺(tái),用戶可與虛擬角色進(jìn)行沉浸式即時(shí)交流,還能根據(jù)喜好自定義角色人設(shè),實(shí)現(xiàn)不同的對(duì)話風(fēng)格,人物的形象可通過(guò)文字描述或上傳心儀的圖片生成,平臺(tái)提供多種基礎(chǔ)音色,用戶可自行創(chuàng)建、融合出屬于該角色的專屬聲音,實(shí)現(xiàn)多模態(tài)互動(dòng)。

Soul語(yǔ)音生成大模型已于今年上線,同時(shí)自研語(yǔ)音大模型正式升級(jí)。對(duì)于大模型的探索,Soul App CTO陶明坦言曾有一段焦慮的時(shí)期:“并不清楚當(dāng)前生成式AI的技術(shù)天花板在哪里?是否能端到端地解決問(wèn)題、全行業(yè)全覆蓋地解決問(wèn)題?后來(lái)我們的預(yù)判是,單一模型沒(méi)有辦法全方面解決問(wèn)題,還是需要垂類大模型。我們要思考的并非做不做通用大模型,而是如何在社交網(wǎng)絡(luò)借助AI帶來(lái)更好的用戶體驗(yàn),幫助用戶構(gòu)建平等的關(guān)系連接,讓不同性格的人體驗(yàn)和感受線上社交的美好?!?/p>

除了應(yīng)用廠商,大模型企業(yè)也在探索端側(cè)應(yīng)用。MiniMax在會(huì)上展示了面向消費(fèi)者的生產(chǎn)力產(chǎn)品“海螺AI”、沉浸式 AI 內(nèi)容平臺(tái)“星野”等多款 AI 原生應(yīng)用產(chǎn)品。

MiniMax副總裁劉華認(rèn)為,大模型的落地應(yīng)用是一個(gè)比較復(fù)雜的過(guò)程,需要綜合考慮多方面因素,比如技術(shù)成熟度、數(shù)據(jù)隱私和安全問(wèn)題、跨學(xué)科合作等。若出現(xiàn)能夠解決用戶痛點(diǎn)、提供顯著價(jià)值并且用戶易于接受和使用的大模型應(yīng)用,都有可能成為爆款。

云知聲聯(lián)合創(chuàng)始人、創(chuàng)新事業(yè)部總裁陳吉?jiǎng)俦硎?,盡管大模型技術(shù)備受矚目,但目前其在消費(fèi)端缺乏明確的殺手級(jí)應(yīng)用,而在企業(yè)端的應(yīng)用主要集中在設(shè)計(jì)和客服等邊緣環(huán)節(jié),尚未深入核心的生產(chǎn)經(jīng)營(yíng)管理層面。他認(rèn)為這一現(xiàn)象并非技術(shù)限制,而是由于大模型企業(yè)普遍缺乏深入特定行業(yè)的知識(shí)和數(shù)據(jù)。他指出,大模型企業(yè)在開(kāi)發(fā)垂直化解決方案時(shí)面臨行業(yè)知識(shí)和數(shù)據(jù)獲取的雙重挑戰(zhàn),導(dǎo)致服務(wù)同質(zhì)化,難以滿足企業(yè)客戶的核心需求。總體來(lái)看,大模型技術(shù)的發(fā)展和應(yīng)用是一個(gè)長(zhǎng)期過(guò)程,需要解決行業(yè)知識(shí)和數(shù)據(jù)獲取的問(wèn)題,并逐步融入企業(yè)的業(yè)務(wù)流程中。

相關(guān)推薦
免責(zé)聲明
本文所包含的觀點(diǎn)僅代表作者個(gè)人看法,不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對(duì)本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn),讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前,請(qǐng)務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對(duì)因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。

熱門文章