新火種
2023-12-27 
OpenAI發(fā)布安全指南：董事會(huì)有權(quán)阻止CEO發(fā)布新款A(yù)I模型
導(dǎo)語：12月19日消息，美國當(dāng)?shù)貢r(shí)間周一，人工智能研究公司OpenAI表示，即使公司領(lǐng)導(dǎo)層認(rèn)為人工智能（AI）模型足夠安全，其董事會(huì)也可以選擇推遲發(fā)布。
12月19日消息，美國當(dāng)?shù)貢r(shí)間周一，人工智能研究公司OpenAI表示，即使公司領(lǐng)導(dǎo)層認(rèn)為人工智能（AI）模型足夠安全，其董事會(huì)也可以選擇推遲發(fā)布。這是該公司授權(quán)其董事加強(qiáng)尖端技術(shù)開發(fā)安全保障措施的另一個(gè)明顯跡象。
周一發(fā)布的一套指導(dǎo)方針詳細(xì)說明了這一決策流程，并解釋了OpenAI計(jì)劃如何應(yīng)對(duì)其最強(qiáng)大人工智能系統(tǒng)可能帶來的極端風(fēng)險(xiǎn)。該指導(dǎo)方針發(fā)布前，OpenAI首席執(zhí)行官薩姆·奧特曼（Sam Altman）曾被董事會(huì)短暫罷免，公司經(jīng)歷了一段動(dòng)蕩時(shí)期，這使得董事和公司高管之間的權(quán)力平衡成為人們關(guān)注的焦點(diǎn)。
OpenAI最近組建的“準(zhǔn)備”（Preparedness）團(tuán)隊(duì)表示，它將繼續(xù)評(píng)估公司的人工智能系統(tǒng)，以確定它們?cè)谒膫€(gè)不同類別中的表現(xiàn)，包括潛在的網(wǎng)絡(luò)安全問題以及化學(xué)武器、核武器以及生物武器威脅，并努力減少該技術(shù)可能造成的任何危害。具體來說，OpenAI正在監(jiān)控所謂的“災(zāi)難性”風(fēng)險(xiǎn)，它在指導(dǎo)方針中將其定義為“任何可能導(dǎo)致數(shù)千億美元經(jīng)濟(jì)損失或?qū)е略S多人受到嚴(yán)重傷害或死亡的風(fēng)險(xiǎn)”。
亞歷山大·馬德里（Aleksander Madry）是“準(zhǔn)備”團(tuán)隊(duì)的負(fù)責(zé)人，目前正在麻省理工學(xué)院休假。他稱，該團(tuán)隊(duì)將向一個(gè)新的內(nèi)部安全咨詢小組發(fā)送月度報(bào)告，后者隨即將分析馬德里團(tuán)隊(duì)的工作，并向奧特曼和公司董事會(huì)提交建議。在奧特曼被短暫解雇后，公司董事會(huì)進(jìn)行了全面改革。根據(jù)這份文件，奧特曼及其領(lǐng)導(dǎo)團(tuán)隊(duì)可以根據(jù)這些報(bào)告決定是否發(fā)布新的人工智能系統(tǒng)，但董事會(huì)有權(quán)否決他們的決定。
OpenAI在10月份宣布成立“準(zhǔn)備”團(tuán)隊(duì)，使其成為該公司監(jiān)督人工智能安全的三個(gè)獨(dú)立團(tuán)隊(duì)之一。另外兩個(gè)團(tuán)隊(duì)分別是“安全系統(tǒng)”團(tuán)隊(duì)，著眼于當(dāng)前的產(chǎn)品，如GPT-4，以及“超級(jí)對(duì)齊”（Superalignment）團(tuán)隊(duì)，專注于未來可能存在的極其強(qiáng)大的人工智能系統(tǒng)。
馬德里表示，他的團(tuán)隊(duì)將反復(fù)評(píng)估OpenAI最先進(jìn)的、尚未發(fā)布的人工智能模型，根據(jù)不同類型的感知風(fēng)險(xiǎn)將它們?cè)u(píng)為“低等”、“中等”、“高等”或“關(guān)鍵”。該團(tuán)隊(duì)還將做出改變，希望減少他們?cè)谌斯ぶ悄苤邪l(fā)現(xiàn)的潛在危險(xiǎn)，并衡量其有效性。根據(jù)新的指導(dǎo)方針，OpenAI將只推出危險(xiǎn)評(píng)級(jí)為“中等”或“低等”的模型。
馬德里還希望其他公司也能使用OpenAI的指導(dǎo)方針來評(píng)估其人工智能模型的潛在風(fēng)險(xiǎn)。他說，這些指導(dǎo)方針是OpenAI之前在評(píng)估已發(fā)布人工智能技術(shù)時(shí)遵循的許多流程的正規(guī)化。他和他的團(tuán)隊(duì)在過去幾個(gè)月里提出了許多細(xì)節(jié)，并從OpenAI內(nèi)部其他人那里得到了反饋。
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個(gè)人看法，不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對(duì)本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn)，讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前，請(qǐng)務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對(duì)因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
