AI日報:DeepSeek開源大模型加速器FlashMLA;海螺AI推I2V-01-Director模型;PixverseV4.0支持同步音效與轉繪功能
歡迎來到【AI日報】欄目!這里是你每天探索人工智能世界的指南,每天我們為你呈現AI領域的熱點內容,聚焦開發者,助你洞悉技術趨勢、了解創新AI產品應用。
1、DeepSeek 開源周首日:發布大模型加速利器FlashMLA 解碼性能飆升至3000GB/s
DeepSeek在開源周首日推出了FlashMLA,這是一款針對英偉達Hopper架構GPU的高效多層注意力解碼內核,旨在優化變長序列場景下的大模型推理性能。該技術通過全面支持BF16精度和創新的頁式鍵值緩存系統,顯著提升了內存管理的精確性。FlashMLA在性能測試中表現出色,達到了3000GB/s的處理速度和580TFLOPS的算力。
【AiBase提要:】
?? FlashMLA專為英偉達Hopper架構GPU設計,優化變長序列場景,提升推理性能。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法,不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險,讀者在采取與本文內容相關的任何行動之前,請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。