首頁 > AI資訊 > 行業動態 > 內亂前夕,OpenAI研究人員致信董事會,警告AI重大新突破或危及人類

內亂前夕,OpenAI研究人員致信董事會,警告AI重大新突破或危及人類

李笑寅    2023-11-23

OpenAI“宮斗”大結局后,Altman“被離職”的原因流出,竟然是因為一封信?

據知情人士向路透社透露,幾名研究人員在Altman離職的四天前(當地時間上周一)向董事會發出了一封信,表示一項新發現可能威脅人類。媒體猜測,這封信成為OpenA此次“宮斗”大戲的導火索。

知情人士透露:微軟CEO Satya Nadella周三告訴員工,這封有關AI模型Q*實現突破的信件促使董事會采取了行動。

報道發出后,馬斯克在X平臺對路透社該篇報道置評:極度令人擔憂。

Altman在上周四曾公開透露過這項技術進展。據知情人士向媒體透露,這項技術由OpenAI前首席科學家Ilya Sutskever牽頭,和使用計算機生成的數據來幫助訓練模型有關,而此前大模型訓練的數據大多源于網絡個人數據。

媒體還報道稱,OpenAI兩位高級研究人員Jakub Pachocki 和 Szymon Sidor在該技術基礎上構建了模型“Q*”(發音為 Q-Star),該模型能夠解決此前從未見過的數學問題。一些內部人士向媒體透露,這或將為OpenAI實現超級智能(即通用人工智能AGI)尋求突破提供可能性。

在上周提及這項技術時,Altman稱其能夠“揭開未知的面紗,推動發展的前沿”。

不過,還有媒體出面佐證這封信直接導致OpenAI內亂,論據有二:首先是Sutskever對該技術持保留態度,領頭參與了這次高調罷免Altman的風波。作為AI保守派,在今年7月時,Sutskever就組建了一個團隊,致力于限制AI潛在的安全威脅。?

其次是,在Altman離開后,高級研究員Szymon Sidor、Jakob Pachocki和總裁Greg Brockman相繼辭職的事實也證實了雙方在商業化和安全性方面的觀念分歧。

相關推薦
免責聲明
本文所包含的觀點僅代表作者個人看法,不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險,讀者在采取與本文內容相關的任何行動之前,請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。

熱門文章