界面新聞
2023-12-22 
中信建投：OpenAI“超級對齊”取得進展由弱到強泛化實現AI可控
中信建投12月19日研報指出，12月15日，OpenAI“超級對齊”團隊發布了成立以來的首篇論文，開辟了對超級模型進行實證對齊的新研究方向。OpenAI認為，比人類聰明得多的人工智能（超級智能）可以在未來十年之內發展出來，然而如何正確的引導和控制超人的人工智能系統仍然沒有得到很好的解決，解決AI的可控問題對于如何確保最先進的人工智能系統始終安全并造福人類至關重要。在最新的研究中，OpenAI實現了從弱模型監督強模型的任務,OpenAI使用GPT-2模型來激發GPT-4的大部分能力，使其達到接近GPT-3.5級別的性能。實現了“弱到強泛化”（Weak-to-stronggeneralization），即讓小模型監督大模型，為“超級對齊”提供了切實可行的技術路線。預期OpenAI將在“超級對齊”研究中取得持續突破，公司看好安全可控下的大模型行業發展前景。
（文章來源：界面新聞）
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
