首頁 > AI資訊 > 行業動態 > AI芯片供應似有緩和跡象:英偉達H100正被拋出租用更容易

AI芯片供應似有緩和跡象:英偉達H100正被拋出租用更容易

新火種    2024-03-04

財聯社2月27日訊(編輯 周子意)

越來越多的證據表明,人工智能芯片的供應緊張問題正有所緩和,一些購買了大量英偉達H100 80GB處理器的公司現在正試圖轉售這些處理器。

目前,據悉用于人工智能(AI)和高性能計算(HPC)應用的英偉達H100 GPU的交付周期已從8-11個月大幅縮短至3-4個月。

據報道,一些公司正在轉售他們的H100 GPU或減少訂單,因為這些芯片的稀缺性開始下降,并且維護這些尚未使用庫存的成本也很高。

此類情形與一年前相比出現重大轉變,當時獲得英偉達的Hopper GPU是一個重大挑戰。

目前人工智能處理器供應短缺的緩解還表現在,從AWS、谷歌云和微軟Azure等云服務提供商租用英偉達的H100 GPU變得更加容易了。

例如,AWS推出了一項新服務,允許客戶安排更短時間的GPU租賃,解決了之前芯片可用性的問題,這導致獲得人工智能芯片的等待時間在減少。

盡管芯片可得性有所提高,交貨時間也大大縮短,人工智能芯片的需求仍然遠遠超過供應。

特別是那些自己開發并培訓大型語言模型的公司仍然面臨供應問題,很大程度上是因為他們需要的GPU數量過于龐大。這些公司在獲得所需處理器或容量方面仍面臨著幾個月的延遲。

也正因如此,英偉達H100和其他處理器的價格并沒有下降,該公司也繼續享有高利潤率。

不過,隨著諸多英偉達處理器的替代品接連問世,例如AMD和AWS的處理器,該市場可能會迎來更加平衡的局面。

還有一點原因是,各公司對人工智能處理器的支出也變得更加謹慎了。

無論如何,就目前而言,市場對人工智能芯片的需求依然強勁,并且隨著大型語言模型越來越大,對計算性能的需求也越來越高。

AI芯片供應似有緩和跡象:英偉達H100正被拋出 租用更容易

Tags:
相關推薦
免責聲明
本文所包含的觀點僅代表作者個人看法,不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險,讀者在采取與本文內容相關的任何行動之前,請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。

熱門文章