新火種
2024-04-25 
快速低成本構建應用，浪潮信息把企業大模型落地門檻打下來了
百模大戰愈演愈烈，各大廠商卷出了不同形態：
有的大秀肌肉，在文本長度上一騎絕塵；有的與搜索等功能深度融合，成為了全能型AI助手……琳瑯滿目的大模型產品令人目不暇接。
但對于企業用戶而言，盡管這些通用大模型各有各的特色，但在解決行業任務時，表現得卻并非那么完美。
究其“不能勝任”的原因，主要是通用大模型在特定行業的知識儲備并不充足，甚至存在嚴重的幻覺。
為了彌補這樣的缺陷，需要大量的行業數據，模型算法也需要進行優化，而這又會牽扯出算力問題……
也是這種背景之下，為了幫助企業用戶更好地實現大模型應用落地，浪潮信息提出了集算法、算力、數據和互聯為一體的端到端解決方案。
大模型進入2.0時代，但落地依舊困難
隨著人工智能技術的快速發展，AI正在變得無處不在，影響著各種計算設備和平臺。
從服務器到個人電腦（PC），甚至是移動設備，AI算力正在滲透進每一個計算設備，面向人工智能的算力范式不斷革新。
除了這種“一切計算皆AI”的大背景，人工智能的代表性產品——大模型也進入了2.0時代。
這意味著將會出現更大的模型，隨之而來的是更多的數據需求，以及對算力資源的更大需求。
而算法、算力和數據正是人工智能發展的“三駕馬車”，但從當今發展來看，發展得都不充分。
首先，由于大模型的訓練成本極其高昂，導致試錯代價極高，進而出現了在大模型時代對于算法的創新依舊有所保守的局面。
算力的資源也并不均衡，北京智源研究院副院長兼總工程師林詠華認為，大模型2.0時代，不能只關注單顆芯片的能力，而是需要考慮從芯片到服務器集群，再到數據中心的存儲和計算關系，以及整個網絡的協同。
數據方面的情況一樣不樂觀，隨著大模型對計算規模的需求增加，人類產生的已知數據，對于大模型而言即將甚至已經不足。
除了大模型自身發展受到算力和數據等方面的桎梏，對于企業用戶來說，大模型落地還存在更多的現實問題。
一是大模型缺少專業的行業數據，不可避免地導致了幻覺問題，難以適用于企業場景。
另一方面，有些企業應用場景中，對模型窗口長度需求極大，現有的模型可能無法滿足需求。
此外，開發難度大、技術門檻高，也是企業實現大模型落地的一個重要壁壘。
想要解決這些痛點難點，需要從上到下的整個生態為之發力，而浪潮信息正是企業大模型落地助推者中的一份子。
端到端開發企業大模型應用
第十屆IPF浪潮信息生態伙伴大會上，浪潮信息AI軟件研發總監吳韶華隆重發布了企業大模型開發平臺元腦企智EPAI。
EPAI平臺提供了端到端的企業大模型落地解決方案，解決了企業大模型應用開發流程復雜、門檻高等困難。
大模型2.0時代，數據就是資產，掌握數據就等于掌握了話語權。
而EPAI提供了上億條基礎知識數據，同時還包含了自動化的數據處理工具，可以幫助用戶整理行業數據和專業數據，生成高質量的微調數據和行業/企業知識庫，進而打造企業專屬數據資產。
有優質的基礎+行業+企業數據作為支撐，大模型生成內容的準確性和可靠性就有了保證，幻覺問題將大幅縮減。
同時，結合檢索增強生成（RAG）技術，EPAI可以解決企業知識庫更新頻率高但大模型微調耗時長、頻率低的矛盾，保證模型能夠及時獲得處理最新知識的能力。
另一方面，EPAI還提供了高效的微調工具，支持千億參數模型面向產業知識的快速再學習，并讓模型具備百萬Token的長文檔處理能力，解決窗口長度不足的問題，快速打造領域大模型。
好馬當配好鞍，EPAI不僅擁有強大的企業大模型開發功能，在易用性方面也幫助開發者降低了使用門檻。
使用方式上，EPAI支持API、對話UI和智能體三種使用方式，可以面對不同的業務場景需求，并讓不同技術水平的開發者都能擁有與自己能力相匹配的開發方式。
甚至是非專業開發人員，也能在幾天培訓之后快速掌握平臺的使用方法，擺脫專業知識的限制。EPAI實現了大模型應用開發的普及化，降低了企業的用工成本。
吳韶華舉例說，假如要開發一個“智能編程助手”，即使是經驗非常豐富的工程師可能也需要兩到三周的時間，但用了EPAI，可以非常快速地執行。
而且EPAI既支持包括CPU和各種GPU在內的多元算力，又支持包括自研的“源”大模型和其他主流開源、閉源模型，適配快，遷移成本低，為企業提供了豐富的模型和算力選擇。
此外，企業用戶最擔心的數據安全問題，EPAI也提供了堅實保障，通過權限管理、數據加密、內容審查等多種技術手段，確保數據和模型安全，做到了隱私信息不泄露。
相較于其他開發平臺，浪潮信息的一個獨特優勢是，從“左手”的算力、模型等底層技術提供者，到“右手”的各行業軟件開發商，都是浪潮信息生態中的伙伴。
這意味著，EPAI平臺可以上承算力，下接應用，成為整個生態的“交通樞紐”，加速面向應用的快速創新。
EPAI為企業用戶很好地解決了算法和數據問題，但浪潮信息提供的支持不止于此，而是集算法、算力、數據、存儲、互聯為一體的全面布局。
在算力方面，面向越來越多的大模型推理場景，浪潮信息還聯合英特爾發布可運行千億參數大模型的AI通用服務器；存儲方面，發布分布式全閃存儲AS13000G7，解決大模型訓練數據挑戰；互聯方面，發布國內首款超級AI以太網交換機 X400，加速大模型訓練推理……
浪潮信息的這一系列布局，或將給大模型行業帶來新的格局。
EPAI將促進大模型產業協作
談及EPAI平臺的意義，吳韶華介紹到，EPAI平臺提供的是工具箱和方法論，讓用戶可以盡可能地發揮自己企業的價值。
而且，EPAI平臺將能夠實現對于開發者的普惠，企業不必再花費大量資金構建一個高精尖的團隊，也可以做起大模型。
通過EPAI和其所提供的方法論，企業用戶可以從自己做起，掌握這樣一套方法和工具，然后再去服務好、支持好他們行業的客戶。
只有借助最適合、最高效的工具，讓它在工作的時候擁有很高的效率和成功率，才能真正把產業快速地做大。
對此，浪潮信息高級副總裁劉軍表示，EPAI“讓我們看到大模型的另外一面，它的產業化落地的這一面”。
此外，EPAI對于整個產業的協作也大有裨益——
過去，恨不得每個人都想做大模型企業，都想自己從頭徹尾都搞一套工具，但事實上不可能所有人都能把生意做大。
只有依靠優質的產業協作分工，大家都做自己最擅長的事情，形成多元多樣化的、共同去促進的生態，才能讓產業AI真正落地。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
