內(nèi)亂前夕,OpenAI研究人員致信董事會(huì),警告AI重大突破或危及人類
OpenAI“宮斗”大結(jié)局后,Altman“被離職”的原因流出,竟然是因?yàn)橐环庑牛?/p>
據(jù)知情人士向路透社透露,幾名研究人員在Altman離職的四天前(當(dāng)?shù)貢r(shí)間上周一)向董事會(huì)發(fā)出了一封信,表示一項(xiàng)新發(fā)現(xiàn)可能威脅人類。媒體猜測,這封信成為OpenA此次“宮斗”大戲的導(dǎo)火索。
知情人士透露:微軟CEO Satya Nadella曾在上周三告訴員工,這封有關(guān)AI模型Q*實(shí)現(xiàn)突破的信件促使董事會(huì)采取了行動(dòng)。
報(bào)道發(fā)出后,馬斯克在X平臺(tái)對路透社該篇報(bào)道置評:極度令人擔(dān)憂。
Altman在上周四曾公開透露過這項(xiàng)技術(shù)進(jìn)展。據(jù)知情人士向媒體透露,這項(xiàng)技術(shù)由OpenAI前首席科學(xué)家Ilya Sutskever牽頭,和使用計(jì)算機(jī)生成的數(shù)據(jù)來幫助訓(xùn)練模型有關(guān),而此前大模型訓(xùn)練的數(shù)據(jù)大多源于網(wǎng)絡(luò)個(gè)人數(shù)據(jù)。
媒體還報(bào)道稱,OpenAI兩位高級研究人員Jakub Pachocki 和 Szymon Sidor在該技術(shù)基礎(chǔ)上構(gòu)建了模型“Q*”(發(fā)音為 Q-Star),該模型能夠解決此前從未見過的數(shù)學(xué)問題。一些內(nèi)部人士向媒體透露,這或?qū)镺penAI實(shí)現(xiàn)超級智能(即通用人工智能AGI)尋求突破提供可能性。
在上周提及這項(xiàng)技術(shù)時(shí),Altman稱其能夠“揭開未知的面紗,推動(dòng)發(fā)展的前沿”。
不過,還有媒體出面佐證這封信直接導(dǎo)致OpenAI內(nèi)亂,論據(jù)有二:首先是Sutskever對該技術(shù)持保留態(tài)度,領(lǐng)頭參與了這次高調(diào)罷免Altman的風(fēng)波。作為AI保守派,在今年7月時(shí),Sutskever就組建了一個(gè)團(tuán)隊(duì),致力于限制AI潛在的安全威脅。
其次是,在Altman離開后,高級研究員Szymon Sidor、Jakob Pachocki和總裁Greg Brockman相繼辭職的事實(shí)也證實(shí)了雙方在商業(yè)化和安全性方面的觀念分歧。
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個(gè)人看法,不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn),讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前,請務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。