新火種
2023-12-25 
AI勢頭不可阻擋！英特爾酷睿Ultra筆記本NPU能力體驗
部署一個既能配音，又能陪聊，還能幫你畫畫的AI小助手，或許已經成為大家未來的工作目標了。
然而似乎每當我們使用AI應用（比如AI摳圖、AI背景替換）時，筆記本電腦似乎很容易就遇到“瓶頸”：不僅會開始卡頓，還呼呼作響，甚至續航時長也開始大幅縮減。
為此，Intel在今年中宣布了AIPC計劃，且很快在年底推出了MeteorLake架構的酷睿Ultra處理器，堪稱是有史以來提升最大一代處理器，具體特性如下：
1、Intel4制程工藝，提升了超過20%的性能和能效。
2、全新三級核心結構，增加AI計算單元NPU。
3、集成顯卡性能提升1倍。
其中，最引人注目的便是那顆新加入的“NPU”(神經網絡處理單元)。
我們可以將它比作理器里的AI小助手，它的存在就是為了提升用戶的AI應用體驗。
在發布會中，Intel介紹Ultra處理器的NPU適用于持續的AI和分擔AI負載。
不難想象，擁有NPU的AI PC會有如下體驗上的提升：
1、更快的語音識別和語音助手響應速度
2、更流暢的人臉識別和解鎖
3、更高效的圖像識別和處理
4、更智能的背景美化和視頻效果
5、甚至可以流暢運行大參數AI模型
最近，我們收到一臺搭載MeteorLake架構酷睿Ultra155H處理器的華碩靈耀142024輕薄本，趁熱做了個AI性能和應用測試。
通過ULProcyonAIInferenceBenchmark推理性能基準測試（涵蓋MobileNetV3、InceptionV4、YOLOV3、DeepLabV3、Real-ESRGAN和ResNet50等多種神經網絡模型）發現，MeteorLake的AI推理能力是ArciGPU（核芯顯卡）為先，NPU其次，最次為CPU。
檢測整機功耗發現，NPU的AI計算效能要遠高于CPU，且高于GPU（Intel曾表示，NPU整體能耗比相比最多可以提升8倍之多）。
這說明NPU非常適合筆記本電腦這類對能效要求極高的移動設備，可用來承擔持續性的低計算量AI應用計算——目的是減少整機功耗，提升續航。
那么，當我們的筆記本電腦擁有NPU后，可能就會有兩個比較直觀的感受：
1、使用能進行AI運算的程序時，續航不容易“崩”了——NPU的AI運算能效比更高。
2、支持AI運算的AI應用更流暢了——NPU可釋放CPU和GPU的運算壓力，物盡其能。
不過，實際應用方面筆者尚未測試成功，因為在測試該產品時還處于產品保密階段，市面大部分應用程序（包括Team、剪映、SD、LLM等）尚未支援NPU硬件加速（仍然主要依靠CPU和GPU計算）。
可以預見的是，隨著NPU處理器落地，大多數AI應用將會迅速適配，整機能效會因此得到進一步的提升。不過實際適配結果如何，目前只能說“未來可期”。
總結：
從原理上來說，NPU比通用CPU或GPU更擅長高效地并行完成低精度計算，且NPU在存儲方面擁有高帶寬、高容量的特性，數據吞吐量大、響應延遲低的特點，對AI應用效率提升起到積極作用。
NPU就像一個效率超高的AI計算專家，讓你的本本續航更持久的同時，也能流暢運行虛擬背景、實時美顏等各種酷炫的AI應用。這便是目前NPU在PC設備中發揮的最明顯的作用。
理論上，擁有NPU計算單元的PC設備還會擁有更強的AI運算能力，可更高效地處理復雜AI模型，完成快速的計算和反饋。
Intel曾在Ultra發布會上表示，Ultra處理器已經可以運行200億參數的AI大模型，且還親自展示了本地大語言模型和文生圖等AI應用。
但是說實話，目前本地AI所生成的結果的準確度、復雜度等方面仍不能與參數量更大的云端生成式AI應用相媲美。
如果我們展望未來的話，我相信隨著越來越多的AI應用對NPU加以支持，筆記本的續航和性能定會有顯而易見的提升（前提是你經常使用此類AI運算的應用）。
且隨著NPU單元算力，以及PC設備存儲能力的增強，未來在個人電腦上部署一個好用的本地千億參數量級的AI大模型，實現一個媲美云端AI的智能寫作或生圖功能，或許不是遙不可及的事情。
最后，未來我們還會持續官網基于NPU加速應用落地的情況，并會持續針對酷睿Ultra處理器產品進行AI功性能和功耗表現等方面的詳細的測評。敬請關注PConline的最新內容。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
