人民網
2025-02-25 
清華團隊推出“安全增強版DeepSeek”
人民網北京2月24日電（記者趙竹青）2月23日，清華大學計算機系相關研究團隊宣布推出大語言模型RealSafe-R1。該模型基于DeepSeek R1進行深度優化與后訓練，在確保性能穩定的基礎上，顯著提升了安全性，為開源大模型的安全發展與風險治理提供了創新性解決方案。
近日來，國產開源大模型DeepSeek在自然語言處理和多任務推理方面展現了強大的技術實力，但在面對越獄攻擊等安全性挑戰時仍存在一定局限性。為此，清華團隊提出了基于模型自我提升的安全對齊方式，將安全對齊與內省推理相結合，使大語言模型能夠通過具有安全意識的思維鏈分析來檢查潛在風險，實現基礎模型自身能力的自主進化。
基于該方法，團隊對DeepSeek-R1系列模型進行后訓練，正式推出RealSafe-R1系列大模型。實驗數據表明，RealSafe-R1安全性提升顯著，在多個基準測試中有效增強了對各種越獄攻擊的抵抗力，并減輕了安全與性能之間的“蹺蹺板”現象。
據悉，RealSafe-R1各尺寸模型及數據集將于近期向全球開發者開源。
（文章來源：人民網）
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
