新火種
2024-05-28 
AI大模型測評：半塊RTX4090玩轉700億(70B)大語言模型
AI大模型測評
DATE：2024.05.30
? ? ? ? 19:00--21:00
“
在人工智能的浪潮中，開源大語言模型（LLM）持續引領著技術創新的潮流。本次開放夜，我們將深入探索AI大模型與高性能顯卡的結合，特別是在本地運行大型AI模型的能力。
01
探討話題
隨著AI技術的飛速發展，本地化部署AI模型的需求日益增長。為了滿足這一需求，我們特別邀請了B站知名科技UP主AlphaArea，他將攜帶整套設備，現場展示如何流暢運行并測評包括llama3-70B, Qwen1.5-72B在內的多個開源AI大模型。
專業測評：AlphaArea將現場測評AI大模型運行性能。
模型體驗：深入體驗Llama3-70B, Qwen1.5-72B等開源AI模型的運行。
技術深度：分享如何通過有限預算滿足AI大模型的顯存和算力需求。
并行技術：探討如何充分利用多卡算力加速AI運行。
成本分析：展示如何以較低成本實現高性能AI模型運行的解決方案。
互動體驗：現場觀眾將有機會近距離觀察和體驗AI模型的運行過程。
02
分享嘉賓
AlphaArea_
03
活動信息
時間：5月30日? 周四? 19:00-21:00
地點：上海市浦東新區郭守敬路498號?
? ? ? ? 浦東軟件園 4號樓1樓 蘑菇云創客空間
?出行建議：
開車出行
園區內不對外開放停車，駕車來訪的朋友們請將車輛停在居里路的劃線停車位，沿居里路步行至郭守敬園西門進入園區。
公共交通
請從地鐵2號線金科路站的3號出口出站（十字路口過兩次馬路），沿金科路步行10分鐘即可抵達郭守敬園的5號門進入園區。
入口識別標志：卷簾門
蘑菇云創客空間大門入口位于4號樓面向8號樓的街道位置，門頭是具有創客風格的卷簾門。
— END —
Tags:
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
