新火種
2024-11-21 
年度世界互聯網科技大獎公布，騰訊Angel機器學習平臺獲領先科技獎
11月19日，2024年世界互聯網大會領先科技獎在烏鎮發布，騰訊Angel機器學習平臺憑借其卓越的技術積累、創新的關鍵技術和廣泛的應用場景，榮獲本年度領先科技獎。
騰訊Angel機器學習平臺，突破了萬億級模型分布式訓練和推理以及大規模應用部署等難題，率先實現大模型技術從底層硬件到關鍵軟件技術的自主研發，在業務場景廣泛應用，顯著推動實體產業和數字經濟發展，提升社會效率。
世界互聯網大會領先科技獎由世界互聯網大會主辦，旨在獎勵全球年度最具領先性的互聯網科技成果，倡導互聯網技術國際交流合作。本年度共有20個具有國際代表性的項目獲獎，整體入選率僅為7.4%，涵蓋類腦計算、具身智能、6G、大數據、高性能芯片、AI機器學習平臺等前沿領域。
騰訊公司副總裁蔣杰
騰訊公司副總裁蔣杰現場表示，獲得本次世界互聯網大會領先科技獎，是對騰訊在大模型相關自研技術的認可。在大模型時代，模型參數超過萬億，訓練數據超過十萬億，如此龐大的規模，給模型訓練和推理帶來巨大挑戰，騰訊全鏈路自研的Angel機器學習平臺有效應對這些挑戰，實現多個方面的性能效率提升。未來，騰訊也將繼續投入底層技術自主研發，并通過開源共享，推動技術創新升級，讓智能技術走入千行百業。
騰訊Angel機器學習平臺針對萬億規模大模型分布式訓練和推理、應用部署難的挑戰，在網絡互聯、框架效率、平臺規模三方面實現了突破。
在通信方面，從網卡到交換機，再到路由協議，騰訊自研的RDMA網絡實現了集群高速互聯，單節點帶寬達到3.2T，相比于同類領先產品，性能提升30%，成本降低70%。
在效率方面，自研了訓練/推理框架，提出顯存加主存的一體化機制，實現多維并行和算子優化，相比開源框架，訓練性能提升2.6倍，推理速度提升2.3倍。
在規模方面， 實現了單任務萬卡的線性擴展，GPU集群加速比從50%提升到99%。
作為智能時代的基礎設施，憑借扎實的技術積累，騰訊Angel機器學習平臺項目技術成果此前也多次登頂國際權威領域榜單，獲得20余項國際競賽冠軍。Angel平臺還是中國首個從Linux Foundation畢業的頂級AI開源項目，被評為2019年度最受歡迎中國開源軟件，平臺吸引了眾多外部開發者和企業用戶，促進了技術的廣泛應用和產業的協同發展。2024年3月，騰訊Angel機器學習平臺還獲得了2023中國電子學會科技進步一等獎。
騰訊基于 Angel 機器學習平臺全鏈路自研的混元大模型，在中國眾多頭部 AI 研發企業中率先采用混合專家模型 (MoE)結構，模型規模突破萬億，處于中國大模型第一梯隊。11月初，騰訊推出業界最大參數規模的開源MoE模型混元Large，總參數量 389B，激活參數量 52B ，上下文長度高達256K，其訓練和推理均基于騰訊Angel機器學習平臺。
目前，基于騰訊Angel機器學習平臺，騰訊混元大模型已經構建了從0.5B到70B不同尺寸的通用模型和領域模型，涵蓋了語言模型、多模態理解模型和多模態生成模型等。這些模型已被應用在超過700個騰訊業務場景[1]，展現了其強大的應用潛力和價值。對外，Angel 平臺通過騰訊云輸出，廣泛應用在大模型、廣告、推薦、社交、金融等領域，服務30萬行業客戶，助力實體行業進行數智化升級。
這些模型已被應用在超過700個騰訊業務場景
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
