新火種
2023-11-17 
云天勵飛發布視覺大模型推理芯片完善自進化城市智能城市體
在高交會開幕日現場，云天勵飛(688343)展位大屏幕上播放著公司創始人、董事長陳寧博士與艾倫·麥席森·圖靈的雙方數字人影像，圍繞 “機器是否可以像人類一樣思考”等話題，展開了一段跨時空對話；展臺外圍滿了引頸企望的觀眾，密切關注著云天勵飛發布新一代AI芯片。
“我們今天發布的AI推理芯片，是在云天勵飛的自進化城市智能體戰略中，補齊了國產工藝的大模型芯片環節的缺位。” 站在屏幕前，陳寧向場下來賓和記者介紹，云天勵飛新一代AI芯片DeepEdge10作為國內首創的國產14nm Chiplet大模型推理芯片，采用自主可控的國產工藝，內含國產RISC-V核，支持大模型推理部署，可廣泛應用于AIoT邊緣視頻、移動機器人等場景。
云天勵飛高管向證券時報·e公司記者表示，大語言模型已經逐步向邊緣和終端滲透，云天勵飛聚焦構建邊緣推理芯片的自主可控生態，本次公司推出的推理芯片主要針對百億可以有效支持千億級大模型的邊緣視覺場景部署，下一代AI芯片將全面兼容多模態大模型。
布局AI應用落地“最后一公里”
人工智能芯片從功能上可以分為訓練芯片和推理芯片，前者注重絕對的計算能力，而后者更注重綜合指標，是實現AI應用落地終端的“最后一公里”。
“訓練不是目的，生產大模型不是目的，千行百業的落地和應用才是最終的目的。”陳寧表示，不論是機器人、無人駕駛汽車智能傳感，還是各類智能硬件，甚至腦機接口芯片，都需要大模型的推理芯片，當前國內這個領域還處于“百家爭鳴”階段，云天勵飛聚焦在邊緣推理計算發力。
本次云天勵飛推出的DeepEdge10，就定位于邊緣計算全場景應用，內置公司最新的第四代神經網絡處理器，打造了Edge10C、Edge10 標準版和Edge10Max 三款系列芯片；出貨形態包括芯片、板卡、盒子、加速卡、推理服務器等，可廣泛應用于AIoT邊緣視頻、移動機器人等場景。
云天勵飛副總裁、芯片產品線總經理李愛軍表示，由于邊緣計算的場景呈現出算力碎片化、算法長尾化、產品非標化、規模碎片化的特征，傳統的算法開發和芯片都難以適應新一代人工智能邊緣計算場景的產品化需求。大模型的出現，為行業提供了算法層面的解決之道；但大模型在邊緣計算場景要面向實戰發揮作用，則需要AI大模型推理芯片的支持。
簡而言之，AI邊緣推理芯片不僅要支持大模型等AI計算任務，還需要具備較強的通用算力。其中，Transformer作為語言視覺多模態大模型的最核心架構，云天勵飛從2015年開始研發神經網絡處理器，在2021年指令集已經實現兼容基于Transformer 架構的新型計算范式。
依托 Deep Edge10創新的 D2D chiplet架構打造的X5000推理卡，已適配并可承載SAM CV大模型、Llama2等百億級大模型運算。
構建國產推理芯片生態
目前，云天勵飛已向國內頭部的AIoT芯片設計廠商、智慧汽車芯片設計廠商、服務機器人廠商、國家重點實驗室等提供神經網絡處理器的IP授權。而邊緣計算市場將迎來高速發展。根據IDC預測，到2023年底，全球的邊緣計算市場將達到2000億美金的規模；預計到2026年，邊緣計算市場將突破3000億美金。
為了布局龐大的邊緣計算市場，就需要構建自主可控的推理芯片生態。
作為云天勵飛AI芯片重要技術特點，DeepEdge10采用了 D2D Chiplet技術和C2C Mesh擴展架構，可實現算力的靈活擴展，可支持千億大模型，相較總體性能要比上一代1000系列的芯片提升，整體性能提升20倍以上超過20倍。
陳寧介紹，通常百億級、千億級的大模型需要極強的計算能力和超低功耗、超低成本，對工藝需求提升到7納米、5納米甚至2納米；結合國產生產工藝現狀，云天勵飛與合作伙伴從三年前就開始聯合技術攻關，定制系列IP，實現在14納米節點上生產多顆不同計算規格的AI的推理芯片，運營大模型的功能。
在軟件棧、工具鏈方面，云天勵飛打造了開放的算法應用平臺，提供超過100多種的算法。通過自研芯片，公司沉淀了 “算法芯片化”的核心能力，完成了3代指令集架構、4代神經網絡處理器架構的研發，目前自研神經網絡處理器已經獲得國內頂尖的芯片設計公司采用，生態合作伙伴擴大到近30家，芯片也大規模應用到安防模塊等領域。
“我們將立足國產工藝，打造自主可控的AI芯片，雖然這條路非常艱難，但是我們還會堅定不移地走下去。”李愛軍表示。
完善自進化城市智能體
云天勵飛的自主研發芯片，也是公司自進化城市智能體戰略的重要引擎。2020年，云天勵飛在高交會上正式發布自進化城市智能體戰略，其核心邏輯是打造“應用生產數據、數據訓練算法、算法定義芯片、芯片規模化賦能應用”的數據飛輪。
“我們今天發布的大模型的推理芯片，就是在自進化城市智能體戰略里，補齊了國產工藝的大模型芯片環節。”陳寧表示。
目前云天勵飛自研千億級大模型——云天天書大模型達到行業先進水平，在今年9月上旬的 C-Eval 中文大模型榜單中，云天天書大模型位列榜單第一。
據公司高管向證券時報·e公司記者介紹，大模型已經逐步向邊緣和終端滲透，考慮個人隱私、工具影響時間等系列問題，未來智能手機、個人電腦終端將在本機本地部署大語言模型。云天勵飛聚焦構建邊緣推理芯片生態，本次推出的推理芯片虎牙主要針對百億可以有效支持千億級大模型的邊緣視覺場景部署，下一代AI芯片將全面兼容多模態場景，適配云天天書大模型的升級。
本次高交會上，云天勵飛首次展示了助力打造深圳福田CBD智慧商圈的建設成果，通過引入人工智能大模型，可為政府、商圈運營機構、消費者三方提供不同服務。近期，由云天勵飛進行整體智能化建設的福田CBD智慧商圈已經獲評2023年第二批全國示范智慧商圈。并且是唯一一個實現3個購物中心同時成功獲評全國示范智慧商店的商圈。
云天勵飛還展示了智慧線路優化系統、智慧巡檢、交通新能源網聯應用等自進化城市智能體在交通領域的建設成果。未來，公司將繼續加大自主研發力度，立足自主可控，以自研“芯”，為自進化城市智能體發展提供強大引擎。
（文章來源：證券時報網）
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
