新火種
2023-12-20 
OpenAI“宮斗劇”暴露人工智能監(jiān)管漏洞
美國人工智能公司OpenAI旗下的ChatGPT上線已經(jīng)一年。近期，圍繞OpenAI首席執(zhí)行官薩姆·奧爾特曼去留問題的“宮斗劇”，短短幾天內經(jīng)歷了“反轉反轉再反轉”，似乎已經(jīng)落下帷幕。塵埃落定之后，OpenAI的首席執(zhí)行官還是奧爾特曼，一切似乎沒變，但一切似乎又已經(jīng)完全變了。這場大戲，揭開了OpenAI內部關于人工智能發(fā)展前途的矛盾，它暴露的不僅是一家人工智能公司的管理問題，更揭示了人工智能治理機制缺失的潛在風險。作為全球知名的人工智能研究機構，OpenAI近年來一直是最受關注的科技公司之一。
一年前，OpenAI推出大語言模型ChatGPT，掀起了生成式人工智能的熱潮，奧爾特曼也成為全球科技界風云人物。網(wǎng)絡上流傳的視頻顯示，奧爾特曼宣稱自己沒有公司股份，也不想通過公司商業(yè)獲利。他還經(jīng)常在公開場合宣稱要警惕人工智能帶來的風險。而透過這場“宮斗戲”，人們發(fā)現(xiàn)事情遠沒有奧爾特曼宣稱的那么簡單。美國有線電視新聞網(wǎng)報道說，董事會之所以“逼宮”，是因為擔心奧爾特曼過于激進地推動人工智能開發(fā)，存在嚴重的風險隱患。據(jù)報道，奧爾特曼私下里在人工智能開發(fā)方面態(tài)度激進，試圖推動公司更快把人工智能產(chǎn)品推向市場，通過銷售產(chǎn)品獲利。根據(jù)路透社報道，此前有幾名研究人員寫信給OpenAI董事會，揭發(fā)一項名為"Q*"（發(fā)音為Q-Star）的“可能會威脅人類”的人工智能項目，引發(fā)了董事會的擔憂和不滿。
據(jù)報道，該項目可能是OpenAI在通用人工智能領域的新突破。什么是通用人工智能？OpenAI自己的定義是，在大多數(shù)具有經(jīng)濟價值的任務中，超越人類智慧的人工智能系統(tǒng)。簡言之，就是能夠取代人類大部分勞動的人工智能。表面上，這場“宮斗戲”，是OpenAI首席執(zhí)行官奧爾特曼與董事會之爭；本質上，它是人工智能的冒險與穩(wěn)妥之爭。更愿意冒險的奧爾特曼勝出了。不久前，OpenAI在社交媒體X（推特）平臺上稱，該公司已“原則上達成協(xié)議”，讓奧爾特曼重任OpenAI首席執(zhí)行官，并組建新的董事會。“宮斗戲”撲朔迷離，個中利益糾葛、恩怨情仇外人難以知曉，局中人的是非對錯難以評判。這場大戲更值得人們關注和反思的，是人工智能領域關乎人類發(fā)展的嚴峻問題和潛在的漏洞風險。單靠公司治理體制，不足以對人工智能實現(xiàn)有效監(jiān)管；僅憑資本與市場的邏輯，難以有效遏制人工智能開發(fā)帶來的潛在風險。
目前世界多國正在加強人工智能監(jiān)管立法。歐盟正制定AI監(jiān)管法規(guī)，法國、德國和意大利近期也就AI監(jiān)管達成一致，支持AI基礎模型“以行為準則方式強制自我監(jiān)管”；美國10月30日發(fā)布首個人工智能監(jiān)管行政命令，要求美國最強人工智能系統(tǒng)的研發(fā)人員需與政府分享其安全測試結果及其他關鍵信息等。美國、英國等近20個國家11月26日公布一份建議性質的協(xié)議，一致認定企業(yè)需要在設計和使用人工智能系統(tǒng)時確保消費者等廣大公眾安全，需要監(jiān)控濫用AI系統(tǒng)現(xiàn)象，防止數(shù)據(jù)遭干預，審核軟件供應商資質等。
實際上，在OpenAI“宮斗劇”上演之前，中國10月18日就提出了《全球人工智能治理倡議》。這是中國在促進人工智能安全發(fā)展和應用方面作出的莊嚴承諾，為人工智能發(fā)展和治理問題提出了建設性的解決思路，也為相關各國討論和規(guī)則制定提供了藍本。中國智慧和中國方案，為這個充滿未知和風險的前沿領域，帶來了更多的確定性和方向感。或許，下次像ChatGPT這樣的新突破橫空出世時，人們除了新奇、驚艷，還會有更深刻、更長遠、更多維度的見解與對策。
來源：“伍之管見”微信公眾號
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負任何責任。
