首頁 > AI資訊 > 最新資訊 > 研究者:AI模型推理環節耗電更多,2027年行業用電將堪比荷蘭

研究者:AI模型推理環節耗電更多,2027年行業用電將堪比荷蘭

新火種    2023-10-21

10 月 13 日消息,《Cell》的姐妹期刊《Joule》本周出版了一篇名為《持續成長的人工智慧能源足跡(The growing energy footprint of artificial intelligence)》論文。

經過查詢得知,該論文由科研機構 Digiconomist 創始人 Alex De Vries 發表,其聲稱未來 AI 推理性能可能會消耗大量的電力,而到 2027 年,AI 的用電量可能等同于荷蘭一年的電力使用。

Alex De Vries 表示,外界一向認為訓練一個 AI 模型“AI 最耗電的階段”,但 Vries 引用了 SemiAnalysis 及谷歌的報告指出,“推論環節”所消耗的電力更多,自 2019 年到 2021 年,與 AI 相關的能源消耗中,預計有 60% 來自模型推論。

▲ 圖源 相關論文

Alex De Vries 同時以谷歌在 2021 年披露的 18.3 TWh 耗電量來計算,聲稱當時 AI 占了谷歌公司整體耗電量的 10%-15%,而在谷歌全面實施“AI 搜索”之后,該公司在 AI 方面的耗電量最高可能達到 27.4 TWh,接近愛爾蘭一整年所使用的電力(29.3 TWh)。

就整個市場來看,隨著英偉達合作伙伴臺積電(TSMC)所投資的新 CoWoS 廠預計于 2027 年量產,Alex De Vries 也估計屆時英偉達所交付的全數 AI 服務器總用電量將達 85-134 TWh,相當于荷蘭一年的電力使用。

▲ 圖源 相關論文

Alex De Vries 認為,AI 產業應當提高硬件效率,改善模型演算效率,以改善產業的耗電情況,他還建議開發者不僅應專注于優化 AI,也必須考慮使用 AI 的必要性,以降低 AI 行業的耗能成本。

參考

相關推薦
免責聲明
本文所包含的觀點僅代表作者個人看法,不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險,讀者在采取與本文內容相關的任何行動之前,請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。

熱門文章