新火種
2023-09-13 
玩10次ChatGPT就要消耗1升水｜加州大學(xué)河濱分校研究結(jié)果
西風(fēng) 發(fā)自 凹非寺量子位 | 公眾號 QbitAI用5次ChatGPT，最高可消耗500毫升水。這是研究人員對OpenAI訓(xùn)模型耗水量調(diào)查后給出的結(jié)果。此外，據(jù)微軟最新環(huán)境報告，2021年到2022年其全球用水量飆升34%，也就是近17億加侖。單看數(shù)字可能不夠直觀。這么說吧，17億加侖約64億升，奧運(yùn)會標(biāo)準(zhǔn)比賽游泳池容量大概是250萬升。算下來頂2560個游泳池的用水量。
消耗的水自然不是被搬運(yùn)走搞“ChatGPT山泉”去了。而是為其背后擁有超大算力的數(shù)據(jù)中心散熱。靠喝水冷卻服務(wù)器GPT-4的誕生地就在美國愛荷華州的“AI超級計算數(shù)據(jù)中心”。
該數(shù)據(jù)中心在2020年首次亮相，是微軟專為OpenAI提供的“訓(xùn)練場”。這里面最為引人注目的當(dāng)屬驅(qū)動系統(tǒng)運(yùn)行所用的285000多個AMD InfiniBand CPU和10000多個GPU。
如此龐大的算力自然要消耗大量的電，與此同時會釋放出大量的熱。為了保持環(huán)境涼爽，數(shù)據(jù)中心就要抽水冷卻服務(wù)器。該數(shù)據(jù)中心所處的得梅因是得梅因河和雷科恩河的交匯點(diǎn)，正好為散熱提供了水源。而用于散熱的水量只能說很驚人。據(jù)美聯(lián)社消息，加州大學(xué)研究員Shaolei Ren一直在關(guān)注ChatGPT等AIGC產(chǎn)品對環(huán)境的影響，他將在今年晚些時候發(fā)表一篇論文，在其中會指出：每問ChatGPT 5-50個問題，就要消耗約500毫升的水。這個數(shù)字也包含為數(shù)據(jù)中心供電的發(fā)電廠所用的冷卻水等間接用水量。具體提問問題的數(shù)量還要取決于服務(wù)器的位置以及季節(jié)。正如上面提到的，微軟也已承認(rèn)用水也是訓(xùn)模型的一大成本，從2021年到2022年，其全球用水量飆升了34%，相比研究AIGC前急劇增加。
但同時研究人員還表示，情況可能還不算太糟糕——數(shù)據(jù)中心位于愛荷華州，當(dāng)?shù)匾荒晁募敬蟛糠謺r間氣溫還是較為涼爽的。只有氣溫達(dá)到29.3攝氏度或更高時，才會從自來水系統(tǒng)中獲取水資源散熱。谷歌在愛荷華州也很渴其他訓(xùn)大模型的科技公司同樣用水量巨大。前段時間，谷歌也發(fā)布了環(huán)境報告，去年一年喝掉了近56億加侖（約212億升）水。相當(dāng)于37個高爾夫球場的用水量，能抵半個西湖的那種。并且當(dāng)中52億加侖（約197億升）都耗在了數(shù)據(jù)中心散熱上，同期用水量增長20%。值得一提的是，谷歌在俄勒岡州的用水量近年來一直受到監(jiān)管機(jī)構(gòu)的審查，并沒有大幅增加，但是它在拉斯維加斯附近的數(shù)據(jù)中心用水量翻了一番，而谷歌的愛荷華州數(shù)據(jù)中心是所有中最渴、用水量最多的。
那……沒啥其它辦法散熱了嗎？有的。可白嫖的辦法就是哪涼快哪待著，F(xiàn)acebook2013年就把一個熱氣騰騰的數(shù)據(jù)中心放到了瑞典北部，離北極圈僅一步之遙。之前也有用空調(diào)系統(tǒng)的，但這種方法需要用大量電給冷凝劑降溫，因電費(fèi)貴等逐步被淘汰。相對于電來說，水普遍便宜，所以水冷散熱就流行起來了。但看現(xiàn)在這架勢，這水是越喝越渴了。此外，數(shù)據(jù)中心釋放的這些熱量易提取、穩(wěn)定性高，還常年不間斷，回收利用也是個節(jié)能的好方法。現(xiàn)在國內(nèi)一些數(shù)據(jù)中心已經(jīng)用上熱回收技術(shù)了。夏季回收的熱量可以用來搞民用熱水，冬季可以搞民用采暖，采用此方案還會減少制冷系統(tǒng)部分運(yùn)行費(fèi)用。例如中國移動哈爾濱數(shù)據(jù)中心就采用高溫水源熱泵將園區(qū)機(jī)房設(shè)備產(chǎn)生的余熱重復(fù)用于辦公取暖。阿里巴巴千島湖數(shù)據(jù)中心、騰訊天津數(shù)據(jù)中心、中國電信重慶云計算基地、萬國數(shù)據(jù)北京三號數(shù)據(jù)中心等也都在回收利用余熱。高校也是算力一大集中地，上海交通大學(xué)在李政道研究所的科學(xué)計算中心堪稱國內(nèi)高校算力排名第一。
△上海交大實驗樓球體區(qū)域上海交大利用溫水冷技術(shù)提升能源利用效率，50°C溫水經(jīng)溫水散熱系統(tǒng)出水溫度有60°C。余熱也沒有浪費(fèi)，冬天用于實驗樓中間球體連接區(qū)域的供暖，平時用來給食堂廚房的熱水加熱、地下室除濕，以及拓?fù)淞孔雍蜁r間投影兩個實驗室的空調(diào)溫控。目前，還有一些使用熱電材料，將“廢熱”轉(zhuǎn)化為電能的方法也在研究中。
消耗的水自然不是被搬運(yùn)走搞“ChatGPT山泉”去了。而是為其背后擁有超大算力的數(shù)據(jù)中心散熱。靠喝水冷卻服務(wù)器GPT-4的誕生地就在美國愛荷華州的“AI超級計算數(shù)據(jù)中心”。該數(shù)據(jù)中心在2020年首次亮相，是微軟專為OpenAI提供的“訓(xùn)練場”。這里面最為引人注目的當(dāng)屬驅(qū)動系統(tǒng)運(yùn)行所用的285000多個AMD InfiniBand CPU和10000多個GPU。如此龐大的算力自然要消耗大量的電，與此同時會釋放出大量的熱。為了保持環(huán)境涼爽，數(shù)據(jù)中心就要抽水冷卻服務(wù)器。該數(shù)據(jù)中心所處的得梅因是得梅因河和雷科恩河的交匯點(diǎn)，正好為散熱提供了水源。而用于散熱的水量只能說很驚人。據(jù)美聯(lián)社消息，加州大學(xué)研究員Shaolei Ren一直在關(guān)注ChatGPT等AIGC產(chǎn)品對環(huán)境的影響，他將在今年晚些時候發(fā)表一篇論文，在其中會指出：每問ChatGPT 5-50個問題，就要消耗約500毫升的水。這個數(shù)字也包含為數(shù)據(jù)中心供電的發(fā)電廠所用的冷卻水等間接用水量。具體提問問題的數(shù)量還要取決于服務(wù)器的位置以及季節(jié)。正如上面提到的，微軟也已承認(rèn)用水也是訓(xùn)模型的一大成本，從2021年到2022年，其全球用水量飆升了34%，相比研究AIGC前急劇增加。但同時研究人員還表示，情況可能還不算太糟糕——數(shù)據(jù)中心位于愛荷華州，當(dāng)?shù)匾荒晁募敬蟛糠謺r間氣溫還是較為涼爽的。只有氣溫達(dá)到29.3攝氏度或更高時，才會從自來水系統(tǒng)中獲取水資源散熱。谷歌在愛荷華州也很渴其他訓(xùn)大模型的科技公司同樣用水量巨大。前段時間，谷歌也發(fā)布了環(huán)境報告，去年一年喝掉了近56億加侖（約212億升）水。相當(dāng)于37個高爾夫球場的用水量，能抵半個西湖的那種。并且當(dāng)中52億加侖（約197億升）都耗在了數(shù)據(jù)中心散熱上，同期用水量增長20%。值得一提的是，谷歌在俄勒岡州的用水量近年來一直受到監(jiān)管機(jī)構(gòu)的審查，并沒有大幅增加，但是它在拉斯維加斯附近的數(shù)據(jù)中心用水量翻了一番，而谷歌的愛荷華州數(shù)據(jù)中心是所有中最渴、用水量最多的。那……沒啥其它辦法散熱了嗎？有的。可白嫖的辦法就是哪涼快哪待著，F(xiàn)acebook2013年就把一個熱氣騰騰的數(shù)據(jù)中心放到了瑞典北部，離北極圈僅一步之遙。之前也有用空調(diào)系統(tǒng)的，但這種方法需要用大量電給冷凝劑降溫，因電費(fèi)貴等逐步被淘汰。相對于電來說，水普遍便宜，所以水冷散熱就流行起來了。但看現(xiàn)在這架勢，這水是越喝越渴了。此外，數(shù)據(jù)中心釋放的這些熱量易提取、穩(wěn)定性高，還常年不間斷，回收利用也是個節(jié)能的好方法。現(xiàn)在國內(nèi)一些數(shù)據(jù)中心已經(jīng)用上熱回收技術(shù)了。夏季回收的熱量可以用來搞民用熱水，冬季可以搞民用采暖，采用此方案還會減少制冷系統(tǒng)部分運(yùn)行費(fèi)用。例如中國移動哈爾濱數(shù)據(jù)中心就采用高溫水源熱泵將園區(qū)機(jī)房設(shè)備產(chǎn)生的余熱重復(fù)用于辦公取暖。阿里巴巴千島湖數(shù)據(jù)中心、騰訊天津數(shù)據(jù)中心、中國電信重慶云計算基地、萬國數(shù)據(jù)北京三號數(shù)據(jù)中心等也都在回收利用余熱。高校也是算力一大集中地，上海交通大學(xué)在李政道研究所的科學(xué)計算中心堪稱國內(nèi)高校算力排名第一。△上海交大實驗樓球體區(qū)域上海交大利用溫水冷技術(shù)提升能源利用效率，50°C溫水經(jīng)溫水散熱系統(tǒng)出水溫度有60°C。余熱也沒有浪費(fèi)，冬天用于實驗樓中間球體連接區(qū)域的供暖，平時用來給食堂廚房的熱水加熱、地下室除濕，以及拓?fù)淞孔雍蜁r間投影兩個實驗室的空調(diào)溫控。目前，還有一些使用熱電材料，將“廢熱”轉(zhuǎn)化為電能的方法也在研究中。 相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個人看法，不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認(rèn)可。 交易和投資涉及高風(fēng)險，讀者在采取與本文內(nèi)容相關(guān)的任何行動之前，請務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
