財聯社
2023-12-19 
OpenAI發布AI安全指南：董事會有權阻止新AI模型發布
財聯社12月19日訊（編輯 夏軍雄）當地時間周一（12月18日），人工智能（AI）研究公司OpenAI公布了一套關于防范AI風險的指導方針，其中值得關注的一條規則是，即使CEO等公司領導層認為AI模型是安全的，董事會也可以阻止其發布。
OpenAI開發的聊天機器人ChatGPT已經發布了一整年，這款現象級應用極大促進了AI領域的發展，與之而來的還有對AI發展失控的擔憂。
全球監管機構都在制定各自的AI法規，而作為AI領域領頭羊的OpenAI也在采取行動。
今年10月27日，OpenAI宣布組建名為“準備”（Preparedness）的安全團隊，旨在最大限度地降低AI帶來的風險。
Preparedness團隊由麻省理工學院的可部署機器學習中心主任Aleksander Madry領導，該團隊將針對各類AI模型進行能力評估及紅隊測試，以追蹤、預測及防范各類別的災難性風險。
OpenAI周一發布了名為“準備框架”（Preparedness Framework）的指導方針，并強調這套指南仍處于測試階段。
據悉，Preparedness團隊每月將向一個新的內部安全咨詢小組發送報告，該小組隨后將對其進行分析，并向OpenAI首席執行官薩姆·奧爾特曼和董事會提交建議。奧爾特曼和公司高層可以根據這些報告決定是否發布新的AI系統，但董事會有權撤銷這一決定。
作為OpenAI聯合創始人之一，奧爾特曼在不久前還是公司董事會成員，但在一場人事巨震中被除名，并且一度離開OpenAI。雖然奧爾特曼最終得以重返OpenAI并繼續擔任CEO一職，但新組建的“初始”董事會并沒有他的席位。
Preparedness團隊將反復評估OpenAI最先進、尚未發布的AI模型，根據不同類型的感知風險評為四個等級，從低到高依次是“低”、“中”、“高”和“嚴重”。根據新的指導方針，OpenAI將只推出評級為“低”和“中”的模型。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
