新火種
2023-12-25 
openai公布初版“preparedness”框架，防范ai大模型可能引發(fā)的危機(jī)
品玩12月19日訊，OpenAI 今天宣布，公布初版“Preparedness”框架，這份框架描述了 OpenAI 跟蹤、評(píng)估、預(yù)測(cè)和防范日益強(qiáng)大的模型所帶來的災(zāi)難性風(fēng)險(xiǎn)的流程。
據(jù)OpenAI 表示，其安全團(tuán)隊(duì)每月將向一個(gè)新的內(nèi)部安全咨詢小組發(fā)送報(bào)告，該小組隨后將對(duì)其進(jìn)行分析，并向Sam Altman和董事會(huì)提交建議。Altman和公司高層可以根據(jù)這些報(bào)告決定是否發(fā)布新的 AI 系統(tǒng)，但董事會(huì)有權(quán)撤銷這一決定。
OpenAI 表示，旗下?lián)碛卸鄠€(gè)團(tuán)隊(duì)保證大模型的安全，其中安全系統(tǒng)團(tuán)隊(duì)正專注于減少對(duì)當(dāng)前模型和產(chǎn)品的濫用。二其超級(jí)對(duì)齊團(tuán)隊(duì)正為在更遙遠(yuǎn)的未來擁有的超級(jí)智能模型的安全奠定基礎(chǔ)。準(zhǔn)備團(tuán)隊(duì)負(fù)責(zé)規(guī)劃前沿模型的新興風(fēng)險(xiǎn)，并與安全系統(tǒng)、Superalignment 以及 OpenAI 的其他安全和政策團(tuán)隊(duì)建立聯(lián)系。
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個(gè)人看法，不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對(duì)本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn)，讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前，請(qǐng)務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對(duì)因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
