新火種
2023-11-27 
OpenAI神秘新模型Q*曝光！太強大讓董事會警惕：網友稱天網雛形
OpenAI宮斗大戲剛剛落幕，馬上又掀起另一場軒然大波！
路透社曝光，在奧特曼被解雇之前，幾位研究人員給董事會寫的警告信可能是整個事件導火索：
內部名為Q *（發音為Q-Star）的下一代AI模型，過于強大和先進，可能會威脅人類。
Q*正是由這場風暴的中心人物，首席科學家Ilya Sutskever主導。
人們迅速把奧特曼此前在APEC峰會上的發言聯系在了一起：
OpenAI歷史上已經有過四次，最近一次就是在過去幾周，當我們推開無知之幕并抵達探索發現的前沿時，我就在房間里，這是職業生涯中的最高榮譽。”
Q*可能有以下幾個核心特性，被認為是通往AGI或超級智能的關鍵一步。
突破了人類數據的限制，可以自己生產巨量訓練數據
有自主學習和自我改進的能力
這則消息迅速引發了巨大討論，馬斯克也帶著鏈接來追問。
最新的梗圖則是，好像一夜之間，人們都從研究奧特曼和OpenAI董事會的專家，變成了Q*專家。
突破數據限制
根據來自The Information的最新消息，Q*的前身是GPT-Zero，這個項目由Ilya Sutskever發起，名字致敬了DeepMind的Alpha-Zero。
Alpha-Zero無需學習人類棋譜，通過自己跟自己博弈來掌握下圍棋。
GPT-Zero讓下一代AI模型不用依賴互聯網上抓取的文本或圖片等真實世界數據，而是使用合成數據訓練。
2021年，GPT-Zero正式立項，此后并未有太多直接相關的消息傳出。
但就在幾周前，Ilya在一次訪談中提到：
不談太多細節，我只想說數據限制是可以被克服的，進步仍將繼續。
在GPT-Zero的基礎上，由Jakub Pachocki和Szymon Sidor開發出了Q*。
兩人都是OpenAI早期成員，也都是第一批宣布要跟著奧特曼去微軟的成員。
Jakub Pachocki上個月剛剛晉升研究總監，過去很多突破包括Dota 2項目和GPT-4的預訓練，他都是核心貢獻者。
Szymon Sidor同樣參與過Dota 2項目，個人簡介是“正在造AGI，一行代碼接一行代碼”。
在路透社的消息中，提到給Q*提供龐大的計算資源，能夠解決某些數學問題。雖然目前數學能力僅達到小學水平，但讓研究者對未來的成功非常樂觀。
另外還提到了OpenAI成立了“AI科學家”新團隊，由早期的“Code Gen”和“Math Gen”兩個團隊合并而來，正在探索優化提高AI的推理能力，并最終開展科學探索。
三種猜測
關于Q*到底是什么沒有更具體的消息傳出，但一些人從名字猜測可能與Q-Learning有關。
Q-Learning可以追溯到1989年，是一種無模型強化學習算法，不需要對環境建模，即使對帶有隨機因素的轉移函數或者獎勵函數也無需特別改動就可以適應。
與其他強化學習算法相比，Q-Learning專注于學習每個狀態-行動對的價值，以決定哪個動作在長期會帶來最大的回報，而不是直接學習行動策略本身。
第二種猜測是與OpenAI在5月發布的通過“過程監督”而不是“結果監督”解決數學問題有關。
但這一研究成果的貢獻列表中并未出現Jakub Pachocki和Szymon Sidor的名字。
另外有人猜測，7月份加入OpenAI的“德撲AI之父”Noam Brown也可能與這個項目有關。
他在加入時曾表示要把過去只適用于游戲的方法通用化，推理可能會慢1000被成本也更高，但可能發現新藥物或證明數學猜想。
符合傳言中“需要巨大計算資源”和“能解決一定數學問題”的描述。
雖然更多的都還是猜測，但合成數據和強化學習是否能把AI帶到下一個階段，已經成了業內討論最多的話題之一。
英偉達科學家范麟熙認為，合成數據將提供上萬億高質量的訓練token，關鍵問題是如何保持質量并避免過早陷入瓶頸。
馬斯克同意這個看法，并提到人類所寫的每一本書只需一個硬盤就能裝下，合成數據將遠遠超出這個規模。
但圖靈獎三巨頭中的LeCun認為，更多合成數據只是權宜之計，最終還是需要讓AI像人類或動物一樣只需極少數據就能學習。
萊斯大學博士Cameron R. Wolfe表示，Q-Learning可能并不是解鎖AGI的秘訣。
但將“合成數據”與“數據高效的強化學習算法”相結合，可能正是推進當前人工智能研究范式的關鍵。
他表示，通過強化學習微調是訓練高性能大模型（如ChatGPT/GPT-4）的秘訣。但強化學習本質上數據低效，使用人工手動標注數據集進行強化學習微調非常昂貴。考慮到這一點，推進AI研究（至少在當前范式中）將嚴重依賴于兩個基本目標：
讓強化學習在更少數據下表現更好。
盡可能使用大模型和少量人工標注數據合成生成高質量數據。
……如果我們堅持使用Decoder-only Transformer的預測下一個token范式（即預訓練 -> SFT -> RLHF）……這兩種方法結合將使每個人都可以使用尖端的訓練技術，而不僅僅是擁有大量資金的研究團隊！
One More Thing
OpenAI內部目前還沒有人對Q*的消息發表回應。
但奧特曼剛剛透露與留在董事會的Quora創始人Adam D’Angelo進行了幾個小時的友好談話。
看來無論Adam D’Angelo是否像大家猜測的那樣是這次事件的幕后黑手，現在都達成和解了。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
