首頁 > AI資訊 > 最新資訊 > 存儲市場重回正軌,生成式AI能否帶來新周期?

存儲市場重回正軌,生成式AI能否帶來新周期?

新火種    2024-03-28

存儲市場重回正軌,生成式AI能否帶來新周期?

去年的中國閃存峰會CFMS 2023,與會者都關注存儲行業何時能觸底反彈。

“存儲市場規模經歷了兩年的下滑后,2024年開始重新回到正軌?!鄙钲谑虚W存市場資訊有限公司總經理邰煒在MemoryS(CMFS的新品牌名)上表示,“我們預計今年市場規模相比去年將提升至少42%。”

存儲是一個周期性行業,從2019年到2023年,存儲行業經歷了供過于求-疫情-缺貨-庫存-超跌,最后以原廠主動減產結束。

邰煒說,“展望2024-2026年,我們認為新技術和AI應用將激發存儲的潛能,走出傳統的價格周期,進入新周期,這也是我們今年峰會的主題,‘存儲周期 激發潛能’。”

存儲市場重回正軌,生成式AI能否帶來新周期?

生成式AI是今年MemoryS最熱門的話題,從云端到邊緣再到終端,生成式AI對計算提出了新的要求的同時,也對存儲提出了新的要求。

兼顧更大容量、更高帶寬、更低延遲的同時,如何實現低功耗?

什么樣的存儲解決方案才能加速生成式AI的落地?

存儲市場觸底反彈

存儲市場在去年底就迎來了全面反彈。從市場現貨價格看,2023年第三季度原廠強勢減產并強勢拉漲價格。2023年第一季度,存儲價格再次大漲。

邰煒預測,“今年后續三個季度的價格將保持平穩向上的趨勢。但過高過快漲的漲幅將嚴重影響終端產品線的規劃、打擊容量擴充的積極性,也不利于產業整體健康穩定的發展?!?/p>

從原廠利潤率的維度看,2023年第一季度觸底后,2024年第四季度有非??捎^的改善,個別公司已經開始恢復盈利。

存儲市場重回正軌,生成式AI能否帶來新周期?

邰煒預計2024年第一季度大部分公司的利潤率都會有效扭轉。

再看具體產品,預計2024年,NAND FLASH將超過8000億GB單量,相比去年增長20%,DRAM將達到2370億GB單量,預計增長達15%。

存儲市場重回正軌,生成式AI能否帶來新周期?

市場規模增長的同時,存儲技術也在向前演進。

NAND FLASH,各大原廠都繼續推出更高堆疊的產品,去年已經推出了200層以上的產品,今年朝著300層堆疊推進,這將帶來更高的閃存容量。

“架構上看,鍵合技術逐步進入主流,這種架構產品隨著堆疊層數的提升,將更具成本優勢。并且這種架構可以將更多特性使用到NAND FLASH,這也是存儲激發潛能的一種方式。”邰煒同時指出,隨著更多產品對容量的要求越來越高,QLC的應用將加速,除了傳統SSD產品,其它應用領域也將開始全面擴展。

DRAM方面,將全面進入EUV時代,下一代產品也將在最近1-2年內出現。

從產品和應用看,手機、PC和服務器依舊是存儲最大的三個市場,汽車市場在快速增長。

在生成式AI的推動下,2023年AI服務器增長迅猛,帶動了HBM、DDR5的需求。

“2024年,服務器市場是DDR5正式邁過50%的一年,今年下半年5600速率會進入主流,同時高容量模組128GB/256GB進入服務器主流市場的障礙掃清。”邰煒說,“CXL進入實用階段,正式開始專利池的新時代,加上HBM3e進入量產,今年服務器內存的升級將非常的激進?!?/p>

根據原廠的規劃,2024年HBM3e將正式量產。

AI服務器除了帶動高容量HBM需求,對DDR5的容量需求是普通服務器的2-4倍。這將使得未來5年AI服務器將驅動DRAM需求大增。

服務器的SSD的需求也將在AI的帶動下快速增長,2024年服務器PCIe5.0 SSD的滲透率將較2023年翻倍成長,容量將達到8TB/16TB及以上。

在手機市場,UFS的市場占有率進一步提升,更高性能的UFS4.0增長更為明顯。同時,高端機型的存儲容量基本進入了512GB以及TB時代。

“今年手機平均容量將超過200GB,內存也朝更高性能的LPDDR5演進,預計今年手機DRAM平均容量將超過7GB。”邰煒指出。

AI手機也將成為手機的新熱點,16G的 DRAM將是AI手機的最低配置,將有力的推動手機存儲的再次升級。

與AI手機對存儲的帶動一樣,AI PC預計將在2024年爆發??梢灾С直镜卦扐I模型的AI PC,需要更快的數據傳輸速度、更大的存儲容量和帶寬。

企業級存儲如何滿足生成式AI的需求?

大普微電子研發副總裁陳祥在MemoryS上表示,未來10年,生成式的數據與人類創造的數據大概是1:3的關系。這給存儲行業帶來了一些機會,也帶來一些挑戰。

存儲市場重回正軌,生成式AI能否帶來新周期?

大普微電子研發副總裁陳祥

能耗是一個顯著的挑戰,因為在能源有限的當下,更多的能源會優先給CPU或者GPU,存儲需要持續提高能效比。

“為了綠色環保,許多公司都要求PUE貼近1.0,無論是從產品層面提高能效比還是和服務器廠商優化液冷方案等,我們都在積極布局。”陳祥對表示。

面對能耗挑戰的同時,生成式AI對大容量SSD的需求給企業級SSD提供商帶來了機會。

AI訓練過程,包括AI訓練過程,包括訓練,推理,預測、檢查點(Checkpoint)等,生成式AI模型的參數動輒幾百G,這對SSD盤片提出的要求是大容量、連續穩定讀寫,以及低時延、高帶寬。

目前做大容量盤的廠商還不多,國內主流是4T、8T、16T,32T甚至64T的還比較少。

“做大容量盤面臨很多挑戰,要把多顆存儲芯片封裝在一起,對封裝技術的要求更高。并且,更大的容量也需要新的映射算法和開發新的固件。”陳祥進一步表示,“更大的盤片對功耗的控制也更難,這給硬件設計帶來了挑戰。”

SSD的單盤容量更大之后,如果單盤出現問題,影響的數據就更多,穩定性面臨下降的挑戰,這對于數據中心等應用場景不太友好。

大容量的存儲需要對應更大帶寬,更高傳輸速度,特別是AI計算數據的搬運需要消耗更多能量,需要更高速率的傳輸。

過去幾年,生成式AI對超高帶寬和超高性能的需求,推動了PCIe的標準迅速從4.0演進到5.0以及6.0,最新的規范已經到了PCIe7.0。

“國內2024年會開始慢慢導入PCIe5.0,2025年開始上量,2026年提升占比?!标愊檎f,“PCIe 5.0的SSD會首先應用到對帶寬要求更高的AI服務器。”

這其中同樣面臨功耗挑戰。三星電子執行副總裁兼解決方案產品工程師團隊負責人吳和錫指出,“三星正在向PCIe 5.0轉型,基于過往的經驗,我們認為管理兩個風險很重要。一個是信號完整性的保證,同時控制性能增加而產生額外的熱?!?/p>

“整體來說,SSD單盤的大容量能夠帶來TCO的整體收益,但也帶來了技術挑戰,需要我們與客戶共同配合解決。”陳祥說,“我們提供一站式解決方案的團隊,從主控芯片到固件、到量產、硬件交付包括品牌。從成立到現在我們交付了從PCIe3.0、PCIe4.0到PCIe5.0的產品。各種顆粒,包括SLC、QLC等,我們都有對應的產品。”

加速生成式AI在端側普及,存儲要做什么?

端側AI與云端AI一樣,都需要有更大容量,更高速度的存儲。三星目前正在開發一款UFS4.0的產品,將通道數量從2個增加到4個。

“我們預計在今年夏天交付第一個5通道UFS4.0樣品,并計劃在2025年大規模生產?!眳呛湾a說,“我們還積極參與有關UFS 5.0標準的討論?!?/p>

速度之外,功耗也是端側AI要普及需要解決的問題。

像是醫療設備、機械臂等,必須符合當時場景的算力和散熱要求。

宜鼎國際中國區總經理游禮印說,我們不是直接給客戶提供散熱解決方案,而是基于我們的經驗和能力,協助客戶把整個系統和環境的因素考量到位,幫助客戶解決散熱問題。

存儲市場重回正軌,生成式AI能否帶來新周期?

宜鼎國際中國區總經理游禮?。ㄗ螅┮硕H工控DRAM事業處總經理張偉民(右)

除了解決技術挑戰,在端側落地AI還需要做什么?

“我們了解行業語言,前期可以和客戶做比較深入的交流。同時,無論是我們的DRAM還是FLASH產品品質都可以贏得客戶的信賴。并且,我們還提供定制化服務?!庇味Y印對表示。

宜鼎國際的定制化服務,包含了存儲硬件和軟件。

“與客戶合作的過程中我們發現,軟硬件整合有一定困難。”游禮印說,“我們的軟件團隊,會協助客戶做一些工作,提供定制化的服務。因為我們服務到位,客戶愿意與我們分享,我們在一起解決痛點,實現AI的落地?!?/p>

落地AI,還需要整體的解決方案降低開發成本。

一般來說,開發一個產品需要分站式采購,然后做整合。

“如果有器件存在品質問題,可能會導致系統出現問題,所以我們現在提供的是完整解決方案?!币硕H工控DRAM事業處總經理張偉民說,“除了提供優質的閃存和內存外,我們還提供包含傳感器等的軟硬件一體的AI解決方案?!?/p>

宜鼎國際智能周邊應用事業處處長吳志清進一步指出,“當AI設備或者物聯網設備越來越多以前一個人管100臺設備,未來可不可以1個人管1000臺設備,設備的管理變得更加重要。我們可以提供遠端管理,在模組、設備、系統都可以提供遠程管理。還有非常重要的一點,所有的資料都是安全的,確保我的資料不會流失,不會被盜竊?!?/p>

過去幾年,大部分AI都還在概念驗證的階段。AI在邊緣市場也還在探索的階段。

隨著完整解決方案的推出,以及更高速度、更高帶寬閃存和內存的推出,將加速AI從云端到邊緣端的普及。

Tags:
相關推薦
免責聲明
本文所包含的觀點僅代表作者個人看法,不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險,讀者在采取與本文內容相關的任何行動之前,請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。

熱門文章