21世紀經濟報道
2023-11-24 
度小滿首席架構師李豐：平臺能力建設是大模型落地成敗的關鍵
21世紀經濟報道記者邊萬莉北京報道 11月21日，由21世紀經濟報道主辦的“2023首席科技官思享會（閉門會）”在北京成功舉行，聚焦大模型的熱點話題，金融機構、金融科技公司等資深人士進行了深入研討。
度小滿首席架構師李豐表示，智能化技術在金融領域的經歷了經典學習算法、深度學習、AGI/LLM（大語言模型）的三個階段。通用人工智能可以看作是一個新的浪潮，在深度學習基礎上有更多的理解和推理能力。大模型可能是生產工具級別的升級，最終會帶來生產力的提升。
“寄希望于大模型短期帶來應用層面快速爆發或者場景突破，不是很現實。”李豐認為，這不是大模型擅長的場景，它擅長的是知識庫壓縮、推理、問題拆解、問題解答等底層能力。真正體現大模型價值，一定是與場景結合，這個進程不會那么快，尤其是金融場景的新技術應用必須經過反復驗證，確定效果才能上線。
李豐表示，任何技術的發展都會有火熱的階段，價值體現是慢慢地滲透，滲透到每一個環節的方方面面，最終會達到質的飛躍，這是大模型價值釋放的方式。
據他介紹，通用大模型需要巨大的人力財力投入，度小滿選擇基于成熟通用基座模型，專注于打造金融領域大模型。基于通用大模型來做金融領域大模型，要在高質量金融數據基礎上進行調優，同時要保證部署和使用方式的靈活性，才能滿足金融機構的情況。度小滿“軒轅”大模型內部使用中，在一些應用場景和知識問答等方面體現了比較好的效果，主要價值是基于特有場景的調優，才能更有利于產生對業務的直接貢獻。
“平臺能力建設是大模型落地成敗的關鍵，沒有一個很好的平臺很難在生態應用場景層面發力。”李豐說，大模型落地到場景需要跨越的鴻溝主要有三個方面：服務可靠性（并發/延遲/穩定/降級/容災）、服務可控性（權限/安全/隱私/合規）、服務易用性（會話/通用能力/API/提示詞工程/靈活切換）。
在他看來，大模型的應用可以先內后外，先從企業內部做提質增效的實驗，然后再推到更廣闊的應用場景。一方面，內部驗證風險更低；另一方面，把內部用戶的認知和能力打磨之后，會為后續更廣泛應用打下很好的基礎；此外，內部應用會加快加深對技術的認可，獲取更多的資源支持。任何一個新技術都有風險，大模型也不例外，不能把它看作是必然的東西。
“做好前面這幾步，才能真正面向場景。”李豐表示，大模型在應用場景中做的是底層支撐，真正做好應用是非常工程化的事情，需要進行一些探索。比如，營銷活動GPT，可以作為從需求、設計、到評估、實現，端到端的營銷活動智能助手；對話式金融服務機器人，能夠做到真正千人千面、按需實時共建的服務流程；智能客服，比肩金牌業務員，服務效率提升25%。
（文章來源：21世紀經濟報道）
Tags:
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
