三星透露多項面向AI計算的技術(shù)應(yīng)用進(jìn)展優(yōu)化現(xiàn)有內(nèi)存結(jié)構(gòu)將是首選
《科創(chuàng)板日報》8月11日訊(記者 郭輝) “這是一個人工智能和大數(shù)據(jù)正對社會產(chǎn)生深遠(yuǎn)影響的獨一無二的時代。”在日前舉行的OCP CHINA Day 2023(開放計算中國技術(shù)峰會)上,三星電子副總裁、三星半導(dǎo)體事業(yè)軟件開發(fā)團(tuán)隊負(fù)責(zé)人張實完,分享了關(guān)于三星內(nèi)存技術(shù)當(dāng)前面臨的挑戰(zhàn)、最新方案及其應(yīng)用。
ChatGPT等大模型的發(fā)展,使得數(shù)據(jù)總量呈指數(shù)級增長,提升海量數(shù)據(jù)的存儲、計算效率,需要更加高效的內(nèi)存解決方案。張實完表示,當(dāng)前三星半導(dǎo)體所面臨的挑戰(zhàn)是:中央處理器(CPU)性能正以每5年10倍以上的速度增長,但內(nèi)存性能卻相對落后。
為此,三星半導(dǎo)體正在借助對內(nèi)存技術(shù)的深刻理解,開發(fā)下一代內(nèi)存,主要目標(biāo)有兩個:一是克服現(xiàn)有內(nèi)存層次結(jié)構(gòu)的限制,二是提高以數(shù)據(jù)為中心的計算性能。會上,三星方面面向AI及機(jī)器學(xué)習(xí)需求,透露多項技術(shù)應(yīng)用進(jìn)展,并展示多款存儲方案及產(chǎn)品。三星電子也正在抓住生成式AI對DDR5和HBM日益增長的機(jī)遇,擴(kuò)大其DRAM產(chǎn)品在服務(wù)器終端的銷售規(guī)模,走出存儲行業(yè)周期性泥沼。
▌引入主動存儲優(yōu)化現(xiàn)有結(jié)構(gòu) 仍是三星首選
“內(nèi)存墻”的限制,也是隨著人工智能對算力需求增長,行業(yè)普遍面臨的問題。內(nèi)存墻是指由于處理器速度和存儲訪問時間之間的差距不斷擴(kuò)大,而導(dǎo)致的性能瓶頸。隨著中央處理器(CPU)以及人工智能應(yīng)用的快速發(fā)展,需要同時處理的數(shù)據(jù)總量正呈指數(shù)級增長,而內(nèi)存性能在帶寬、容量、時延和功耗這四個方面,難以跟上CPU的發(fā)展速度,從而成了提升計算速度的瓶頸。
目前行業(yè)對解決內(nèi)存墻問題提出了多種路線的技術(shù)方案。其中,三星基于其技術(shù)背景及商業(yè)模式,一直是存算一體技術(shù)領(lǐng)域存內(nèi)計算方案的倡導(dǎo)者,案例包括此前基于其HBM2 DRAM技術(shù)做的存內(nèi)計算,還有今年三星電子與哈佛大學(xué)在頂級學(xué)術(shù)期刊Nature網(wǎng)站上發(fā)布的業(yè)內(nèi)首個基于MRAM的存內(nèi)計算芯片等。
三星方面認(rèn)為,這是一種以數(shù)據(jù)為中心的計算技術(shù),可以讓數(shù)據(jù)在存儲器中直接進(jìn)行計算,將大幅度提升系統(tǒng)的性能表現(xiàn)。
不過存算一體的到來尚屬于未來。三星半導(dǎo)體方面今日表示,當(dāng)前為應(yīng)對內(nèi)存墻,他們首要的解決方案,是通過引入主動存儲(Active Storage)來建立全新內(nèi)存層次結(jié)構(gòu)。
傳統(tǒng)的內(nèi)存層次結(jié)構(gòu)由高速緩存、主內(nèi)存、固態(tài)硬盤和硬盤組成。現(xiàn)有的存儲架構(gòu)可以快速處理相對較小的數(shù)據(jù),但在處理大規(guī)模數(shù)據(jù)方面仍存在結(jié)構(gòu)性限制。
張實完介紹,為適應(yīng)這些工作負(fù)載,必須引入主動存儲(Active Storage)來彌補(bǔ)各級之間的性能差距。舉例來說,在Cache(高速緩沖存儲器)與DRAM (動態(tài)隨機(jī)存取存儲器)、Near-Memory(近內(nèi)存)、或HBM(高帶寬存儲)之間,可以擴(kuò)展帶寬和容量,以更快的速度處理更多的數(shù)據(jù)。
對于三星在會上提及的主動存儲,一位半導(dǎo)體投資人向《科創(chuàng)板日報》記者評價稱,說明現(xiàn)在的傳統(tǒng)方案還沒有被完全顛覆,有待產(chǎn)業(yè)后續(xù)變革。
▌面向AI所需 三星推介多款存儲方案及產(chǎn)品
此次峰會上,三星方面還推介了其面向高性能計算優(yōu)化的高帶寬存儲方案“HBM3 Icebolt”、以及可增加內(nèi)存容量并提高能效的內(nèi)存解決方案“CXL存儲擴(kuò)展器”等,以此滿足市場對人工智能和機(jī)器學(xué)習(xí)的計算所需。據(jù)介紹,這些技術(shù)的發(fā)展,為開發(fā)千兆級大容量存儲解決方案奠定基礎(chǔ)。
存儲產(chǎn)品方面,三星也在積極向市場推廣可適用于人工智能、機(jī)器學(xué)習(xí)應(yīng)用的高性能SSD。
三星去年推出全球首款用于服務(wù)器PCIe 5.0的固態(tài)硬盤PM1743,此次峰會上,三星表示PM1743預(yù)計將在今年部署到需要超高性能的生成式人工智能應(yīng)用中。
三星昨日還通過OCP峰會,首次在中國公開展示了超高性能PCIe 5.0數(shù)據(jù)中心專用SSD產(chǎn)品PM9D3a。據(jù)介紹,該產(chǎn)品的最大優(yōu)勢,在于是一款提供每TB 50KIOPS隨機(jī)寫入性能(最大8TB)的8通道產(chǎn)品。與上一代產(chǎn)品相比,隨機(jī)性能提高了1.8倍、能效提高了1.6倍,能夠在高溫高濕環(huán)境下保持可靠性,加強(qiáng)了保密性和完整性的認(rèn)證。據(jù)介紹,目前PM9D3a已完成開發(fā)工作,預(yù)計于明年上半年將推出多種形態(tài)的產(chǎn)品以滿足客戶的需求。
此外,三星還分享了新的千兆級超高容量閃存解決方案“PBSSD”。PBSSD是三星與超微科技(Supermicro)共同開發(fā)的千兆級閃存解決方案。
諸多信號顯示,當(dāng)前存儲行業(yè)的價格端和供給端,都迎來了拐點。而2023年ChatGPT等生成式AI應(yīng)用,將成為AI服務(wù)器以及高端存儲增長的最大驅(qū)動因素。三星電子則力求抓住生成式AI對DDR5和HBM日益增長的需求,擴(kuò)大其DRAM產(chǎn)品在服務(wù)器終端的銷售規(guī)模。
受益于對高帶寬內(nèi)存(HBM)和DDR5產(chǎn)品的專注,三星存儲業(yè)務(wù)環(huán)比有所改善。今年二季度財報顯示,三星電子存儲業(yè)務(wù)所在部門DS部門虧損收窄,該部門第二季度營業(yè)收入為14.72萬億韓元,營業(yè)虧損4.36萬億韓元。
華西證券認(rèn)為,AI大模型等應(yīng)用,帶來存儲器行業(yè)需求長期增量。與此前發(fā)展較長時間的人工智能的機(jī)器學(xué)習(xí)、深度學(xué)習(xí)相比,人工智能大模型對于數(shù)據(jù)的量級、質(zhì)量等有更高要求。這就對存力、即半導(dǎo)體存儲,提出了數(shù)量和性能上的要求,這將推動半導(dǎo)體存儲行業(yè)長期增長。
TrendForce指出,高端AI服務(wù)器需采用的高端AI芯片,將推升2023-2024年HBM的需求。HBM采用硅通孔(TSV)技術(shù)將DRAM裸片垂直堆疊并和GPU封裝在一起,可以提供更快的并行數(shù)據(jù)處理速度。該機(jī)構(gòu)預(yù)計,2023年全球HBM需求量將增近六成,達(dá)到2.9億GB,2024年將再增長30%,2025年,HBM整體市場有望達(dá)到20億美元以上。
另外,從國內(nèi)市場來看,先進(jìn)存儲也成為國內(nèi)AI算力中心布設(shè)的一大短板,國內(nèi)產(chǎn)業(yè)人士及學(xué)者呼吁,算力和以SSD為代表的先進(jìn)存力實行均衡發(fā)展。今年7月,工信部新聞發(fā)言人趙志國就先進(jìn)存儲發(fā)言指出,將出臺指導(dǎo)算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展的政策文件,加大高性能智算供給,加強(qiáng)先進(jìn)存儲產(chǎn)品部署,開展算力網(wǎng)絡(luò)優(yōu)化行動,加快構(gòu)建云邊端協(xié)同、算存運融合的一體化、多層次的算力基礎(chǔ)設(shè)施體系。
- 免責(zé)聲明
- 本文所包含的觀點僅代表作者個人看法,不代表新火種的觀點。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認(rèn)可。 交易和投資涉及高風(fēng)險,讀者在采取與本文內(nèi)容相關(guān)的任何行動之前,請務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。