英特爾無處不在的AI:云端超強288核至強,端側AIPC跨時代
如何推動無處不在AI時代的到來?先用AI武裝自己。
走入2023英特爾on技術創新大會的現場,能看到各個合作伙伴展臺上無處不在的AI,聽英特爾公司首席執行官帕特·基辛格(Pat Gelsinger)的主題分享,也會發現AI貫穿一個半小時的演講。
基辛格的演講透露了一個非常重要的時間點,2023年12月14日,這一天英特爾會正式發布288核的第五代至強處理器。
同一天,英特爾首款集成的神經網絡處理器(NPU)的酷睿Ultra處理器也會發布,這是一款采用Intel4制程的處理器,但它更重要的意義是開啟AI PC的新時代。
對于英特爾on技術創新大會的主角——開發者,也需要關注AI無處不在背后的“芯經濟”。
基辛格分享,“如今,芯片形成了規模達5740億美元的產業,并驅動著全球約8萬億美元的技術經濟(tech economy)。”
英特爾如何用更高算力、AI PC、更易用的開發平臺,以及制程、封裝和多芯粒解決方案推動AI無處不在的發展?
首次公布的AI芯片路線路,288核至強明年上市
路線圖對于當下的英特爾非常重要,按照路線圖的時間交付產品,能給客戶和開發者極大的信心,也能實現AI策略。
基辛格在2023英特爾on技術創新大會上分享了未來一年英特爾大幅拓展AI技術的計劃。
根據基辛格首次公布了AI芯片的路線圖,2024年,采用5nm制程的Gaudi 3將推出,再下一代AI芯片代號為Falcon Shores。
已經推出的Gaudi 2在最近一期的MLPerf AI推理性能測試結果中表現不錯,有些模型的推理表現超越業界標桿英偉達A100。
Guadi2也已然得到客戶的認可,了解到,一臺大型AI超級計算機將完全采用英特爾至強處理器和4000個英特爾Gaudi2加速器打造,Stability AI是其主要客戶。
Guadi3還將大幅升級,算力將是Gaudi 2的兩倍,網絡帶寬、HBM容量是Gaudi 2的1.5倍。
Guadi在高性能AI計算領域開疆拓土,已經在云端AI推理中被廣泛應用的至強也有最新進展。
第五代英特爾至強處理器將于12月14日發布,將在相同的功耗下為全球數據中心提高性能和存儲速度。
具備高能效的能效核(E-core)處理器Sierra Forest將于2024年上半年上市。與第四代至強相比,擁有288核的該處理器預計將使機架密度提升2.5倍,每瓦性能提高2.4倍。
緊隨Sierra Forest發布的是具備高性能的性能核(P-core)處理器Granite Rapids,與第四代至強相比,其AI性能預計將提高2到3倍2。
第四代至強處理器在加速阿里云通義千問大模型效果顯著。阿里云首席技術官周靖人表示,英特爾技術大幅縮短了模型響應時間,平均加速可達3倍。
展望至強的下一代產品,英特爾將在2025年推出代號Clearwater Forest的下一代至強能效核處理器,采用Intel 18A制程節點。
首款集成NPU的酷睿,開啟AI PC新時代
基辛格的主題分享中,數次提到了AI PC,顯然這是推動AI無處不在的關鍵。
“AI將通過云與PC的緊密協作,進而從根本上改變、重塑和重構PC體驗,釋放人們的生產力和創造力。”基辛格相信,“我們正邁向AI PC的新時代。”
AI PC新時代的基石是英特爾的一個轉折點產品——酷睿Ultra處理器(產品代號為Meteor Lake),注意,與下一代至強處理器易用,酷睿Ultra處理器也將在12月14日發布。
酷睿Ultra處理器作為英特爾客戶端處理器路線圖的一個轉折點,擁有諸多亮點,采用Intel4制程節點實現性能和功耗低大幅進步,是備英特爾首款集成的神經網絡處理器(NPU)的酷睿產品,也是首個采用Foveros封裝技術的客戶端芯粒設計。
除此之外,酷睿Ultra處理器還集成英特爾銳炫顯卡,帶來了獨立顯卡級別的性能。
這些性能提升,帶來的是全新的端側應用。
可以在基于酷睿Ultra處理器的個人電腦上,用生成式AI模型生成一段泰勒·斯威夫特曲風的歌曲。
也可以用AI提取音頻和視頻內容,在斷網的情況下,由英特爾OpenVINO驅動完全在PC本地運行大語言模型,與AI聊天機器人進行實時問答,這是英特爾與Rewind AI的合作。
還能在線上視頻會議不得不暫時離開時,記錄和翻譯會議內容,回到會議時,利用AI就能提取會議重點內容,十分高效便捷。
這些英特爾和合作伙伴深入合作展示的應用,打開了AI PC時代的想象空間。
據悉,宏碁將率先推出搭載酷睿Ultra處理器的宏碁筆記本電腦。
宏碁首席運營官高樹國說:“我們與英特爾團隊合作,通過OpenVINO工具包共同開發了一套宏碁AI庫,以充分利用英特爾酷睿Ultra平臺,還共同開發了AI庫,最終將這款產品帶給用戶。”
這里提到的英特爾的AI推理和部署運行工具套件OpenVINO,正是開發者發揮創造力,讓AI在云端和端側都無處不在的重要工具。
開發者驅動芯經濟的工具
軟件是開發者的工具,也是驅動芯經濟的武器。
基辛格認為,未來的人工智能必須為整個生態系統可訪問性、可擴展性、可見性、透明度和信任度的提升貢獻力量。
這意味著從云端到終端都需要有非常好用的軟件和平臺。
高樹國提到的OpenVINO,有了最新的發行版OpenVINO工具套件2023.1版,這個版本包含了針對跨操作系統和各種不同云解決方案的集成而優化的預訓練模型,例如生成式AI模型Llama 2。
借助OpenVINO工具套件,ai.io開發出了評估運動員的表現的產品,Fit:Match開發出了幫助消費者找到更合身的衣服的服務。
2023英特爾on技術創新大會上,基辛格宣布英特爾開發者云平臺全面上線。
開發者云最大的優勢在于可以提前一年左右,開發者就能使用英特爾尚未量產的芯片開發產品,如第五代英特爾至強可擴展處理器和英特爾數據中心GPU Max系列1100和1550,能夠大幅縮短產品上市時間。
英特爾開發者云平臺建立在支持多架構、多廠商硬件、多編程模型的oneAPI之上,能為開發者提供硬件選擇,并擺脫了專有編程模型,以支持加速計算、代碼重用和滿足可移植性需求。
在使用英特爾開發者云平臺時,開發者可以構建、測試并優化AI以及科學計算應用程序,還可以運行從小規模到大規模的AI訓練、模型優化和推理工作負載,以實現高性能和高效率。
除了OpenVINO和英特爾開發者云,基辛格還透露了將于2024年推出的Strata項目以及邊緣原生軟件平臺。
這是一個有前瞻性布局的軟件平臺,目前AI的開發和應用大都依賴云端,隨著AI技術的發展和成熟,邊緣和終端側將承載更多的AI計算和應用,是實現AI無處不在的關鍵所在。
Strata項目以及邊緣原生軟件平臺,是一種橫向擴展智能邊緣(intelligent edge)和混合人工智能(hybrid AI)所需基礎設施的方式,是使開發人員能夠構建、部署、運行、管理、連接和保護分布式邊緣基礎設施和應用程序。
先進封裝和多芯粒延續摩爾定律
無論是芯片性能的提升,還是軟件開發平臺體驗的升級,基礎都是制程、封裝。
基辛格表示,英特爾的“四年五個制程節點”計劃進展順利,Intel 7已經實現大規模量產,Intel 4已經生產準備就緒,Intel 3也在按計劃推進中,目標是2023年年底。
基辛格主題演講時展示了將在明年推出,基于Intel 20A制程節點打造的英特爾Arrow Lake處理器的首批測試芯片。
Intel 20A將是首個應用PowerVia背面供電技術和新型全環繞柵極晶體管RibbonFET的制程節點。同樣將采用這兩項技術的Intel 18A制程節點也在按計劃推進中,目標是2024年下半年。
制程在朝著重回領先地位發展,封裝技術也在創新。
英特爾找到了推進摩爾定律的另一路徑——使用新材料和新封裝技術,如玻璃基板(Glass Substrates)。
玻璃基板將于2020年代后期推出,繼續增加單個封裝內的晶體管數量,有助于整個行業更接近2030年在單個封裝內集成1萬億個晶體管的目標。
玻璃基板對于需要更大尺寸封裝和更快計算速度的應用和工作負載,包括數據中心、AI、圖形計算等應用將首先展現出優勢。
還有一個重要的進展,和芯粒(Chiplet)密切相關的通用芯粒高速互連開放規范(UCIe),目前UCIe開放標準已經得到超過120家公司的支持。
“摩爾定律的下一波浪潮將由多芯粒封裝技術所推動,如果開放標準能夠解決IP集成的障礙,它將很快變成現實。”基辛格認為。
基辛格展示了英特爾和新思科技合作的測試芯片,集成了基于Intel 3制程節點的英特爾UCIe IP芯粒,和基于TSMC N3E制程節點的Synopsys UCIe IP芯粒。這些芯粒通過EMIB(嵌入式多芯片互連橋接)先進封裝技術互連在一起。
可以看出,英特爾代工服務(Intel Foundry Services)、TSMC和Synopsys攜手推動UCIe的發展,體現了三者支持基于開放標準的芯粒生態系統的承諾。
英特爾on技術創新大會的一系列進展讓大家看到,從制造到封裝,從芯片到軟件,從端側到云端,AI無處不在的時代正在到來。
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法,不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險,讀者在采取與本文內容相關的任何行動之前,請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。