新火種
2023-10-28 
單價25萬起步GPT-5被指需要5萬張H100顯卡才能訓練：NVIDIA賺麻了
8月7日消息，盡管OpenAI CEO之前否認，但業界還是相信他們已經在訓練GPT-5大模型，規模將是GPT-4的10倍以上，但這也意味著更燒錢，尤其是用于訓練AI的顯卡極為稀缺。
全球這么多搞AI大模型的，到底用了多少AI顯卡是各家的秘密，很少公開準確數據，GPT-4猜測是在10000-25000張A100顯卡上訓練的，GPT-5所需的顯卡還是迷，馬斯克估計的是30000-50000張H100顯卡，性能強得多。
除了OpenAI之外，其他公司對高性能AI顯卡的需求也居高不下，Meta、谷歌、微軟、蘋果、特斯拉及馬斯克自己都在搞各種AI，預測總需求高達43.2萬張H100顯卡，價值超過150億美元。
這還只是國外網友分析的美國科技行業需求，實際上國內的需求不比美國少，即便只能購買特供版的A800、H800加速卡，但這沒有妨礙國內公司投身AI大模型，不惜加價搶購AI顯卡。
在當前的市場上，只有NVIDIA才能滿足AI顯卡的需求，AMD及Intel的AI顯卡不僅性能、生態上存在問題，而且供貨也跟不上，AMD的大殺器MI300X要到年底才能出貨，2024年才能大批量上市。
歸根到底，這波又是NVIDIA賺麻了，AI顯卡的需求將持續到2024年底，這一年半中都是供不應求的情況，H100顯卡售價25萬元起步，加價的話就難說了，漲幅波動很大。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
