新火種
2024-12-07 
亞馬遜云科技推出新一代AI訓練芯片AmazonTrainium3
亞馬遜云科技在2024年re:Invent全球大會上宣布了其AI硬件的最新進展——
正式推出基于Amazon Trainium2芯片的Amazon EC2 Trn2實例，同時發布了新一代AI訓練芯片Trainium3。
這些新產品為人工智能模型的開發和部署提供了更高的性價比和性能，標志著亞馬遜云科技在生成式AI領域的新里程碑。
Amazon EC2 Trn2實例采用最新的Trainium2芯片，性價比較現有基于GPU的EC2實例提升了30-40%，為AI開發者提供了更具成本效益的解決方案。
△Amazon EC2 Trn2 實例服務器模塊
每個Trn2實例配備16個Trainium2芯片，可提供高達20.8 Petaflops的浮點算力，非常適合訓練和部署包含數十億參數的大型語言模型。
△Amazon Trainium2芯片
為了滿足不斷增長的AI計算需求，亞馬遜還推出了Trn2 UltraServers。
這種服務器機型通過NeuronLink超速互連技術將四個Trn2服務器連接為一個超大型服務器，具備83.2 Petaflops的計算能力，專為超大規模AI模型的訓練和推理而設計。
△Amazon EC2 Trn2 UltraServers
此外，亞馬遜云科技還宣布了新一代AI訓練芯片Trainium3的推出。
這款芯片是亞馬遜首款采用3納米工藝制造的AI芯片，在性能、能效和密度上樹立了新標桿，搭載Trainium3的UltraServers性能預計是Trn2 UltraServers的四倍。
Trainium3的實例預計將在2025年末上線，為未來的大規模生成式AI模型提供更快的訓練速度和更優的實時性能。
亞馬遜云科技生成式AI科學總監Sherry Marcus博士在交流過程中時表示，亞馬遜致力于為客戶提供更高效的解決方案，幫助他們減少AI幻覺并提高模型的準確性。
Marcus博士提到：
這意味著，Amazon Bedrock平臺上可實現基于上下文的驗證機制，以確保模型輸出的合理性和準確性，進一步減少AI幻覺的發生。
除了硬件上的突破，亞馬遜還與多家領先AI公司展開合作。
Anthropic和亞馬遜共同打造了名為Project Rainier的EC2 UltraCluster計算集群，包含數十萬個Trainium2芯片，其算力達到當前最先進AI模型訓練所需算力的五倍以上。
這個項目將成為全球最大的AI計算集群之一，供Anthropic構建和部署未來的AI模型。
Hugging Face也在借助Amazon Trainium2和Neuron SDK開發開源AI模型，這些合作將使更多開發者能夠以更低的成本、更高的效率創建AI應用。
亞馬遜云科技還發布了Amazon Neuron軟件套件，以幫助開發者更好地利用Trainium芯片的性能。
該軟件包含編譯器、運行時庫和工具，與JAX和PyTorch等框架無縫集成，使開發者能夠輕松優化模型，在Trainium芯片上實現最佳性能。
Sherry Marcus博士還提到，這些工具的推出將極大地簡化AI模型的開發流程，尤其是在減少AI幻覺和提高模型推理可靠性方面表現突出。
通過推出Amazon Trainium2和Trainium3芯片，亞馬遜云科技繼續保持在生成式AI硬件領域的領先地位。
新產品不僅能夠為大型模型提供卓越的性能和更快的訓練速度，還顯著降低了企業部署AI的成本。
除此之外，應用層上的更新也是此次re:Invent的一大亮點。
沙利文大中華區總監李慶表示：
這些創新將進一步推動生成式AI在各個行業的應用，使企業能夠更好地利用AI技術來提升業務表現、降低運營成本。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
