新火種
2023-11-29 
神秘代號Q*到底是什么？OpenAI是否偷偷創造了一種類似人腦的智能？
今年早些時候，OpenAI的首席執行官Sam Altman在Reddit論壇上發表了一篇帖子，讓科技界陷入瘋狂：“AGI已在內部實現。”
AGI是通用人工智能（Artificial General Intelligence）的縮寫——是人工智能研究的圣杯。從本質上講，真正的AGI是一種類似人類大腦的智能，能夠進行推理、創造性思維，甚至可能產生自我意識。
Altman發布實現AGI的消息驚天動地——其重要性就好比頂尖科學家發布 “核聚變成功了”，或者特朗普發布“我放棄參加選舉”。
Altman后來表示，這個帖子只是開個玩笑。但圍繞他最近下臺的戲劇性故事，這一說法受到質疑。
有報道稱，在Altman被解雇之前，OpenAI董事會得知一個重大突破。泄露的文件顯示，這一突破與一個代號為Q*的新模型有關。
OpenAI究竟是否真的實現了AGI？Q*是什么，對人工智能的未來意味著什么？讓我們一探究竟。
01.基礎數學的重要性
關于Q*（讀作Q-star）的大部分信息都基于路透社的報道。這家新聞媒體采訪了OpenAI的幾位匿名消息人士，并獲得了有關這項所謂新突破的內部文件，其中包括公司首席科學家致董事會的一封秘密信函。
他們的報道顯示，Q*在OpenAI內部引起了軒然大波，因為它能完成以前任何大型語言模型都做不到的事情：基礎數學。
起初，這似乎并不是什么大不了的事。自20世紀50年代以來，簡單的計算器就能夠進行基本數學運算。但使用大型語言模型（或Q*可能使用的任何架構）實現這一里程碑，實際上是一個巨大的突破。
02.Q*與人類大腦
如果路透社的報道是正確的，這表明OpenAI可能已經創造了這樣一種混合系統，使用的是硅和計算機芯片，而不是神經元和生物電纜。
據報道，Q*能夠進行符號推理，即使目前還處于非常低的水平，但這表明它可能已經成功開發出Smolensky提出的那種連接主義“虛擬計算機”系統。
與人類大腦一樣，這將賦予新模型以直觀和創造性思維的能力，同時也能切換到符號推理模式，并解決像數學問題這樣有單一正確答案的問題。
因此，能夠進行基本數學運算并不是OpenAI突破的重點。相反，據報道，神經網絡模型已經開發出這種能力，表明該模型在模仿人類大腦的基本能力方面邁出了重要一步。
這一飛躍很可能是OpenAI董事感到恐慌的原因。如果Q*朝著更類似大腦的架構邁出了一大步，隨著其擴展，它可能會發展出與人腦相似的其他能力。
對于人工智能末日論者來說，這足以讓他們徹夜難眠，或者導致一位受歡迎的首席執行官驚慌失措地下臺。
03.不至于毀滅世界
與那些末日論者的擔憂相反，Q*可能不會毀滅世界。即使該模型已經實現了先前僅限于人類大腦的突破，也并不意味著它具有超級智能、意識，甚至達到了通用人工智能的水平。
如果報道屬實，這意味著OpenAI在創造有用的人工智能方面又領先競爭對手一大步
在自然語言處理、藥物發現和數學等領域，一個既能憑直覺又能用符號進行推理的模型將極為重要。這些領域需要創造性和邏輯性的融合，而目前的大語言模型很難做到這一點。例如，理解語言需要理解含義，同時還需要掌握語法等確定性基礎知識。
目前的大語言模型可以在統計學的基礎上理解語言，預測在給定文本中可能存在的單詞。但是，他們并不能真正理解所有人類語言所具有的基本符號邏輯，也不能真正理解產生含義的詞匯之間的聯系。
像Q*這樣的模型，如果真的能將符號推理和直覺推理融為一體，就有可能將文本分解為語法構成部分，充分理解上下文，然后創造出與訓練數據毫無統計關系的全新文本或觀點。這將賦予它巨大的創造力。
同樣，如果一個系統既能夠理解像蛋白質折疊過程這樣的確定性數學，又能更直觀地了解人體機能，那么它可能會以極快的速度發明有用的新藥物。
即使Q*已經存在，它可能也不會立即面向公眾。正如這樣的系統可以徹底改變藥物制作或創意寫作，它也可能擅長發明生化武器或編造令人信服、難以察覺的宣傳。在Q*這樣的系統公開之前，OpenAI需要應對這些風險。
不過，如果有關Q*的報道是準確的，那就說明Altman在Reddit上關于AGI的暗示并不是在故弄玄虛。
盡管它可能還沒有出現，但像Q*這樣的系統將是人工智能的一個巨大飛躍——其功能更像人腦，和我們人類一樣具有推理和創造力。
原文由Thomas Smith撰寫，中文內容由元宇宙之心（MetaverseHub）團隊編譯，如需轉載請聯系我們。
原文標題:神秘代號Q*到底是什么？OpenAI是否偷偷創造了一種類似人腦的智能？
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
