首頁 > AI資訊 > 最新資訊 > 亞馬遜(AMZN.US)AI賽道上奮起直追!更新自研芯片,推出AI助手

亞馬遜(AMZN.US)AI賽道上奮起直追!更新自研芯片,推出AI助手

新火種    2023-12-09

智通財經(jīng)APP獲悉,亞馬遜(AMZN.US)正在競爭激烈的生成式人工智能市場上奮起直追。該公司的云計算部門(AWS)本周在re:Invent全球大會上推出了芯片、AI工具等一系列產(chǎn)品。

AWS在此次大會上推出了更新后的自研通用服務器芯片Amazon Graviton 4和用于機器學習的訓練、推理的芯片Amazon Trainium 2。據(jù)悉,Graviton 3處理器相比,Graviton 4與性能提升高達30%、獨立核心增加50%以上、內(nèi)存帶寬提升75%以上,為在Amazon EC2上運行的工作負載提供更優(yōu)的性能和能效。

另外,與第一代Trainium芯片相比,Trainium 2訓練速度提升多達4倍,并能在EC2 UltraClusters中部署多達100000個芯片,可以在極短的時間訓練基礎模型(FMs)和大語言模型(LLMs),同時能效提升多達2倍。

除了芯片之外,AWS也在大模型相關產(chǎn)品上迭代。亞馬遜的AI大模型服務Bedrock能夠讓用戶使用大語言模型和其他基礎模型構(gòu)建生成式AI的應用。Bedrock提供了對大量模型的訪問支持,包括Anthropic的Claude模型。值得一提的是,今年獲得亞馬遜40億美元投資的Anthropic被認為是OpenAI的勁敵,Anthropic的模型也成為了AWS服務中的一部分。

目前,亞馬遜已經(jīng)推出自研的Amazon Titan AI大模型,據(jù)悉還將推出更多模型。與此同時,Bedrock也推出新功能,包括新的fine tuning(微調(diào))工具、新的檢索增強生成(RAG)技術、新的Agents使模型能夠針對特定用例進行更加定制和優(yōu)化。

AWS還推出了生成式AI驅(qū)動的助手Amazon Q。該AI助手主要用于工作場景中,比如輔助員工完成日常工作、總結(jié)文件、回答公司政策等。亞馬遜希望借此與OpenAI的ChatGPT和谷歌的智能聊天機器人Bard展開競爭。AWS首席執(zhí)行官Adam Selipsky表示,很多公司出于安全和隱私的擔憂已經(jīng)禁止了企業(yè)使用這些人工智能助手,對此,亞馬遜設計Amazon Q時更注重安全性和隱私性。

目前,Amazon Q的預覽版本已上線,部分功能可免費使用,正式版本中企業(yè)用戶的費用為每人每月20美元,具備額外功能的版本費用為每人每月25美元。相比之下,Microsoft 365的Copilot和Google Workspace的Duet AI均需支付每人每月30美元。

此外,亞馬遜和加強了與英偉達(NVDA.US)的合作。英偉達首席執(zhí)行官黃仁勛到大會現(xiàn)場共同討論圍繞生成式AI的開發(fā)。黃仁勛宣布部署全新的GPU系列 ,包括最新的GH200,而AWS將是第一家在云端配備具有多節(jié)點NVLink技術的NVIDIA GH200 Grace Hopper Superchips的云廠商。

另一方面,NVIDIA DGX Cloud 也將登陸 AWS。黃仁勛表示,DGX Cloud是英偉達的人工智能工廠,可讓企業(yè)和軟件開發(fā)人員通過瀏覽器登入,即可獲得英偉達的超級計算機DGX的AI算力。英偉達還與AWS合作推動Ceiba項目,該超級計算機將配置16384顆NVIDIA GH200超級芯片,能處理高達65 exaflops速度等級的AI運算,從而推動生成式AI的創(chuàng)新。

相關推薦
免責聲明
本文所包含的觀點僅代表作者個人看法,不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險,讀者在采取與本文內(nèi)容相關的任何行動之前,請務必進行充分的盡職調(diào)查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負任何責任。

熱門文章