新火種
2023-11-27 
OpenAI內部AGI項目或威脅人類，也成Altman被解雇導火索！
編輯：編輯部
【新智元導讀】Sam Altman在APEC上曾暗示，OpenAI已經開發出比現在GPT-4更強大、遠遠超出人們期待的東西。一天后，他被解雇了。一封據稱發給董事會的警告信也顯示，OpenAI的某個模型，內部已產生重大飛躍。Sam Alman被解雇，又曝出最新內幕！
據路透社報道，就在他被解雇的前四天，OpenAI內部的研究員曾向董事會發了一封警告信，稱發現了一個可能威脅人類的強大人工智能。
知情人士表示，這封此前從未報道過的信，也是董事會最終罷免Altman的導火索之一。
據稱，曾任OpenAI臨時CEO的Mira Murati，在周三提到了這個名為Q*（讀作Q-Star）的項目，并且在「政變」發生之前給董事會寫過一封信。
董事會覺得，Altman瞞著董事會在推進可能威脅人類的項目。
與此同時，有內部研究員認為，OpenaAI在Q*上取得的進展，將會成為AGI的一個重要突破！
不過，就在剛剛，TradingStrategy.ai聯創表示，「AI重大突破」這個說法已被OpenAI內部人士打假。
APEC會議上的「危險」發言
印證Q*項目的另一事件，是Sam Altman在被解雇的一天，在APEC一次會議上的發言。
在那次會議上，他暗示了OpenAI已經開發出了比GPT-4更強大、更難以想象的東西，遠超人們的期待。
模型的能力將會有一個無人預料到的飛躍。與人們的預期不同，這個飛躍是驚人的！
而這次發言，很可能也是他被解雇的導火索之一，會讓Ilya等董事會成員認為，他隱瞞了許多信息。
現在正在發生的技術變革，將徹底改變我們生活方式、經濟和社會結構以及其他可能性限制……這在OpenAI的歷史上有四次 ，而最近一次，就是在過去幾周內。
在撥開無知的面紗和探索未知的邊界時，我有幸在場， 這是我職業生涯中的榮幸。
Q*就是AGI？
其中一位知情人士說，在與路透社聯系后，拒絕置評的OpenAI在給員工的內部消息中，承認了一個名為Q*的項目，并在周末的活動前給董事會寫了一封信。
OpenAI的一位發言人表示，這條消息由CTO Mira Murati發送，提醒員工注意某些媒體報道，但并沒有對其準確性發表評論。
其中一位知情人士告訴路透社，OpenAI的一些人認為Q*（發音為Q-Star）可能是OpenAI在AGI上取得的一個突破。
在OpenAI看來，AIG可以定義為「在最具經濟價值的任務中，超越人類的自主系統」。
因為巨大的算力支持，新模型可以解決某些數學問題。雖然只是可以在小學水平上做數學題，但通過這樣的測試，讓研究者對Q*的未來非常樂觀。
根據內部人士透露，在給董事會的信中，研究人員標記了AI的實力和潛在危險，但沒有具體說明信中提到的確切安全問題。
另外，研究人員還標記了一個「人工智能科學家」團隊的工作，有多個消息來源證實了該團隊的存在。
30多年前，Fodor和Pylyshyn提出的經典論點——神經網絡由于其統計性質而從根本上缺乏人類的系統組合技能——給神經網絡研究蒙上了長長的陰影
其中一位知情人士說，該小組由早期的「Code Gen」和「Math Gen」團隊組成，正在探索如何優化現有的人工智能模型，以提高其推理能力，并最終進行科學工作。
項目由Ilya主導
據悉，一些OpenAI員工認為，Altman的言論應該指的是公司早些時候的一項創新，就是這項創新，能讓他們開發出更強大的AI模型。
Ilya團隊的這項工作，此前從未被報道過。
知情人士透露，這項由OpenAI首席科學家Ilya Sutskever主導的技術突破，引起了一些員工的擔憂。他們擔心公司沒有合適的保障措施，來將這種先進的AI模型商業化。
在接下來的幾個月里，OpenAI的高級研究人員又利用這項創新，建立了能夠解決基本數學問題的系統。
經常用大模型的人都知道，數學問題對于現有的LLM，都是一項艱巨的任務。
根據The Information報道，OpenAI的兩位研究員，Jakub Pachocki和Symon Sidor，利用Ilya的工作成果建立了一個名為Q*(讀作「Q-Star」) 的模型。
據稱，Q*模型能夠解決它以前從未見過的數學問題，而這，是一個重要的技術里程碑。
最近幾周內，該模型的演示一直在OpenAI內部流傳，而AI的發展速度，也讓安全研究人員感到震驚。
據內部人士爆料，Ilya的突破，使OpenAI不再受限于獲取足夠的高質量數據來訓練新模型，而這，正是開發下一代模型的主要障礙。
這項研究涉及使用計算機生成的數據，而不是真實世界的數據，比如從互聯網上提取的文本或圖像。
多年來，Ilya一直在研究如何讓GPT-4解決涉及推理的任務，比如數學或科學問題。
此前，Ilya在這個方向就有多年積累。21年，他啟動了一個名為GPT-Zero的項目，這是對DeepMind AlphaZero的致敬。
GPT-Zero可以下國際象棋、圍棋和將棋。而團隊假設，只要給大模型更多的時間和算力，假以時日，它們一定能達到新的學術突破。
而且在半年之前，就有硅谷大佬扒出，OpenAI很有可能會將「實時檢索」和模型能力結合起來，創造出難以想象的AI能力。
尤其是針對LLM亟待提高的數理和推理能力，未來有可能會有極大提升。
在提出了這種可能性之后，他于兩周之后就加入了OpenAI。
對齊派 VS 加速派
而即使在昨天Altman重返CEO之位后，高管之間的潛在分歧似乎仍未消除，因為OpenAI內部對工作進度的緊張關系仍在持續。
Ilya本人似乎對這項技術持保留意見。今年7月，他組建了對齊團隊，致力于限制AI系統可能給人類帶來的威脅。
在OpenAI的對齊團隊看來，雖然超級AI還很遙遠，但他們相信它會在十年內到來。
Pachocki和Sidor的立場，大概率是在Ilya對齊團隊的反面。
上周Altman被解雇后，兩人也迅速辭職。而Altman復職后，兩人也隨之回到了公司。
而OpenAI總裁兼聯創Greg Brockman，對于這項技術也持支持態度，致力于將其整合到新產品中。他同樣是在Altman復職后，隨之回到了公司。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
