新火種
2024-05-21 
中國工程院院士鄔江興：90%以上主流大模型不可信！實用前景堪憂
5月20日消息，自從ChatGPT爆火以來，全球誕生了無數的大模型，光國內就有上百種，但實用性卻并不如意。
在今天下午的2024搜狐科技年度論壇上，中國工程院院士、國家數字交換系統工程技術研究中心主任、復旦大學大數據研究院院長鄔江興指出，他們團隊對當前最流行的10種大模型進行安全分析發現，90%以上的主流大模型是不可信的。
鄔江興表示，深度學習模型存在“三不可”基因缺陷。
分別是：
第一，不可解釋性。
從數據提供AI模型訓練到知識規律，到獲得應用推理階段，工作原理到現在不明確，問題發現定位非常困難，AI系統中的安全問題比破解密碼還要難。
第二，不可判識性。
因為AI對序列性強依賴，不具備對內容的判識能力，所以數據存在質量差異，來源差異，就可能導致訓練出的結果有差異。
第三，不可推論性。
AI的推理是從已知數據中獲得規律性，難以勝任對中長期未來事物變遷的預測和推理，只是把現有的東西歸納起來，看起來它聰明無比，但僅僅是比我看得多，并沒有產生什么新的認知。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
