新火種
2024-11-17 
AI安全令人擔(dān)憂！OpenAI又解散了一個(gè)安全團(tuán)隊(duì)，6年老將離職
來(lái)源：港股那點(diǎn)事
AI安全越來(lái)令人擔(dān)憂，OpenAI正在解散其“AGI Readiness”團(tuán)隊(duì)。
該團(tuán)隊(duì)就OpenAI處理日益強(qiáng)大的人工智能的能力以及世界管理該技術(shù)的準(zhǔn)備情況向公司提供建議。
又一安全團(tuán)隊(duì)被解散
周三，AGI Readiness高級(jí)顧問(wèn)Miles Brundage宣布離開(kāi)OpenAI。
他在OpenAI工作了六年多，是OpenAI長(zhǎng)期政策研究員、AGI準(zhǔn)備工作高級(jí)顧問(wèn)，也是OpenAI所剩無(wú)幾堅(jiān)持遏制人工智能風(fēng)險(xiǎn)的老員工之一。
Brundage表示，離開(kāi)的主要原因是機(jī)會(huì)成本太高了，他認(rèn)為他的研究在外部會(huì)更有影響力，他想要減少偏見(jiàn)，他已經(jīng)完成了他在OpenAI的目標(biāo)。
通用人工智能（AGI）追求讓AI在廣泛的任務(wù)上達(dá)到或超過(guò)人類智力。Brundage指出：“OpenAI和其他任何前沿實(shí)驗(yàn)室都沒(méi)有準(zhǔn)備好，世界也沒(méi)有準(zhǔn)備好。”
離職后，Brundage計(jì)劃成立自己的非營(yíng)利組織，或者加入一個(gè)現(xiàn)有的非營(yíng)利組織，專注于人工智能政策研究和倡導(dǎo)。
根據(jù)Brundage透露，AGI Readiness前團(tuán)隊(duì)成員將被重新分配到其他團(tuán)隊(duì)。
對(duì)此，OpenAI發(fā)言人表示：
“我們完全支持Brundage在行業(yè)之外進(jìn)行政策研究的決定，并對(duì)他的貢獻(xiàn)深表感謝。他計(jì)劃全力以赴進(jìn)行人工智能政策的獨(dú)立研究，這使他有機(jī)會(huì)在更大范圍內(nèi)產(chǎn)生影響。我們相信，在新職位上，他將繼續(xù)提高行業(yè)和政府決策質(zhì)量的標(biāo)準(zhǔn)。”安全爭(zhēng)議、擔(dān)憂越來(lái)越多
這已經(jīng)不是OpenAI第一次解散與AI安全相關(guān)的團(tuán)隊(duì)，讓大眾對(duì)AI技術(shù)快速的發(fā)展感到擔(dān)憂。
今年5月，OpenAI解散了其超級(jí)對(duì)齊團(tuán)隊(duì)，而該團(tuán)隊(duì)去年才成立。
OpenAI稱，該團(tuán)隊(duì)專注于“科學(xué)和技術(shù)突破，以引導(dǎo)和控制AI系統(tǒng)，防止它們“變得不聽(tīng)話”。
今年7月，OpenAI將高級(jí)安全主管Aleksander Madry重新分配到一個(gè)專注于人工智能推理的職位，盡管OpenAI稱Madry在他的新職位上仍將從事核心的人工智能安全工作。
隨后，民主黨參議員給OpenAI首席執(zhí)行官Sam Altman發(fā)了一封信，詢問(wèn)“OpenAI如何解決新出現(xiàn)的安全問(wèn)題”。
近年來(lái)，OpenAI的人員流失越發(fā)頻繁，公司的多位高管相繼離職，原本11人的創(chuàng)始團(tuán)隊(duì)僅剩3人。
OpenAI聯(lián)合創(chuàng)始人、已離職的Jan Leike更是直指：“建造比人類更聰明的機(jī)器本質(zhì)上是一種危險(xiǎn)的嘗試，OpenAI代表全人類肩負(fù)著巨大的責(zé)任。但在過(guò)去幾年里，安全文化和流程已經(jīng)讓位于閃亮的產(chǎn)品。”
同時(shí)，OpenAI正在轉(zhuǎn)型成一家營(yíng)利性企業(yè)。
10月初，OpenAI以1570億美元的估值完成了新一輪融資，其中包括從眾多投資公司和大型科技公司籌集的66億美元。它還獲得了40億美元的循環(huán)信貸額度，使其總流動(dòng)性超過(guò)100億美元。
此外，該公司預(yù)計(jì)今年?duì)I收為37億美元，虧損約50億美元。
需要注意的是，今年6月，一群OpenAI的現(xiàn)任和前任員工發(fā)表了一封公開(kāi)信，表達(dá)了對(duì)AI快速發(fā)展的擔(dān)憂，指出該行業(yè)缺乏監(jiān)管。
公開(kāi)信寫(xiě)道：“人工智能公司有強(qiáng)大的財(cái)務(wù)動(dòng)機(jī)來(lái)避免有效的監(jiān)管。”
Tags:
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個(gè)人看法，不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對(duì)本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn)，讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前，請(qǐng)務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對(duì)因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
