新火種
2024-05-06 
消費級顯卡輕松跑AI，英偉達RTX領跑AIPC競爭
AI PC的競爭，越來越火熱了！
就連數據中心收入占比達到四分之三的英偉達，也用消費級的AI PC顯卡領跑這場戰斗。
換言之，老黃在做工業級“核彈”的同時，在RTX這樣的消費級產品中，也要全力發展AI運算。
而且規模還不小，據介紹，RTX AI PC目前已成為擁有超過1億用戶和500款AI應用和游戲的生態。
在RTX AI PC的一場技術品鑒會中，新火種也體驗到了英偉達AI算力在消費級顯卡上的應用。
更高效地利用算力，需要軟硬件配合
古語有云，“工欲善其事，必先利其器”，對于AI創作者而言，選擇高性能的運算設備是無比重要的。
當然了，也并不是說就要直接上專業卡，對于單純的創作來說，消費級的顯卡已經足夠。
吐司是一家大型在線生圖的AI模型社區，提供了包括超16w+的模型在內的AI模型資源。
最近，吐司使用第三方測試軟件UL Procyon AI基準，完整測試了英偉達RTX 40系列多款型號的顯卡和筆記本電腦的生圖能力。
相比于集成顯卡，在同時開啟兩個廠商加速框架的情況下，筆記本版的4090在運行SD 1.5的UL Benchmark時，性能超出了27倍。
但做AI運算，單靠硬件性能是不夠的，軟件程序需要針對硬件特征做專門的優化，才能更高效地利用硬件資源，用相同的配置實現更高的推理速度。
比如英偉達的Tensor RT（簡稱TRT）加速框架，就起到了讓模型更好適配顯卡中的Tensor Core，從而實現更高運算性能的作用。
同樣在吐司的測試當中，對于RTX 40系列的各種顯卡，開啟TRT前后，無論是運行SD1.5還是SDXL，每分鐘生成圖片的數量均有顯著提升，其中4090D的SD 1.5生成速度達到了每秒54.55張圖。
而如果改用StreamDiffusion，同時忽略硬盤讀寫帶來的降速，在4090D上開啟TRT，最快可達到每秒128張圖。
在實際環境中，這個速度會被硬盤拖慢，最終的速度大約是每秒八張，但TRT依然是當下最快的Stable Diffusion加速方式。
不過需要說明的是，對于內容生成而言，單純速度快并不等于直接的生產力提升。
那么，這樣的速度優勢又該如何利用起來呢？
速度不能直接變成生產力，還要與工作特點結合
要想把生成速度變為生產力，關鍵不僅在于技術，更在于與行業工作特點的充分結合。
比如在建筑行業，即致AI就基于擴散模型和蒸餾技術，通過RTX 4090 D GPU的加速，實現了秒級的AI實時繪畫，實時將手繪草稿繪制成建筑效果圖。
艾哎集瑟科技聯合創始人、前沿建筑設計師言蕭表示：
數字藝術家、策展人土豆人tudou_man是許多知名品牌的合作藝術家。他以將新銳的藝術方式，與AIGC技術極其自然的交融在一起，創作出了許多經典作品。
比如他用AI創造的麥當勞“傳家寶”系列作品就曾在網絡上刷屏，還獲得了官方的轉發。
他本人表示，RTX 40系列AI PC平臺帶來的運算加持，讓人震驚之余，RTX平臺為數字藝術家提供高效的AI算力加速。
AbleSlide聯合創始人Blender藝術家AI創作者、Blender 藝術家、AI創作者Simon阿文，參與了今年春晚中AI視頻的創作。
他還用AI創作了《花中維納斯》系列作品，展現了一場視覺交響曲，通過AI的力量，靜態圖像被轉化為一種動態體驗，用自然的鏡頭見證了維納斯的重生。
阿文表示，AI在消費級硬件上的普及，讓社區參與者有機會參與到讓AI塑造生活的過程。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
