首頁 > AI資訊 > 行業應用 > NVIDIA首秀BlackwellGB200超級芯片系統:AI推理性能飆升1.5倍

NVIDIA首秀BlackwellGB200超級芯片系統:AI推理性能飆升1.5倍

新火種    2024-08-27

此前有消息稱,NVIDIA Blackwell架構的新一代GPU推遲供貨,但是官方沒有承認,也沒有否認,而是默默拿出了一套基于新一代GB200 GPU+CPU超級芯片的服務器系統,展示了一番。

GB200 Grace Blackwell包括兩顆B200 GPU、一顆Grace CPU,總功耗高達2700W。

其中,B200擁有2040億個晶體管、8096-bit 192GB HBM3E內存(帶寬8TB/s),性能達到9PFlops(每秒9千萬億次),功耗首次達到1000W。

NVIDIA首秀Blackwell GB200超級芯片系統:AI推理性能飆升1.5倍

NVIDIA展示的服務器猶如一件藝術品,一條條藍色和銅色排線,大量超粗直徑銅管,超大體積的散熱片,組成了一個龐然大物。

NVIDIA沒有透露具體配置,只說分為有無NVSwitch兩種版本,其總帶寬高達14.4TB/s。

性能方面只給出了一個數據:Llama 3.1 700億參數大模型的AI推理性能對比H200提高了足足1.5倍。

散熱怎么辦?NVIDIA透露正在開發熱水散熱系統,可以將耗電量減少28%。

NVIDIA首秀Blackwell GB200超級芯片系統:AI推理性能飆升1.5倍

不過,NVIDIA仍然沒有給出Blackwell GPU服務器的出貨時間,估計在今年第四季度。

即將到來的Hot Chip 2024大會上,NVIDIA會詳細講解Blackwell GPU,還會進一步披露未來Vera CPU、Rubin GPU的消息。

NVIDIA首秀Blackwell GB200超級芯片系統:AI推理性能飆升1.5倍

NVIDIA首秀Blackwell GB200超級芯片系統:AI推理性能飆升1.5倍

NVIDIA首秀Blackwell GB200超級芯片系統:AI推理性能飆升1.5倍

NVIDIA首秀Blackwell GB200超級芯片系統:AI推理性能飆升1.5倍

NVIDIA首秀Blackwell GB200超級芯片系統:AI推理性能飆升1.5倍

NVIDIA首秀Blackwell GB200超級芯片系統:AI推理性能飆升1.5倍

NVIDIA首秀Blackwell GB200超級芯片系統:AI推理性能飆升1.5倍

NVIDIA首秀Blackwell GB200超級芯片系統:AI推理性能飆升1.5倍

Tags:
相關推薦
免責聲明
本文所包含的觀點僅代表作者個人看法,不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險,讀者在采取與本文內容相關的任何行動之前,請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。

熱門文章