新火種
2023-11-24 
OpenAI與AI的未來：資本主義的勝利？監(jiān)管機構(gòu)正豎起耳朵
·“資本主義團隊獲勝。利維坦團隊輸了。”
·“圍繞山姆·奧特曼發(fā)生的這出戲劇告訴我們，我們不能依賴這些公司有遠見的首席執(zhí)行官或形象代言人，相反，我們需要監(jiān)管。”
OpenAI高層人事震蕩事件持續(xù)近5天后，回到了原點——聯(lián)合創(chuàng)始人山姆·奧特曼回歸公司擔(dān)任首席執(zhí)行官，但又沒有回到原點——董事會大換血。這兩個因素將決定OpenAI未來的走向。
奧特曼被罷免的真正原因仍然未知，盡管傳言和陰謀論盛行，讓人們掀開布簾一角希望窺視他的另一面。同時，新上臺的董事會預(yù)計將更關(guān)注技術(shù)進步與營利前景而不是安全問題，并可能與微軟展開更緊密的合作。全世界的監(jiān)管機構(gòu)正密切觀察事態(tài)變化，至少有些人已經(jīng)更加明白：指望企業(yè)監(jiān)督自我是不可靠的。
也就是說，OpenAI的管理層沒變，但人工智能行業(yè)已經(jīng)永久改變了。
精英的“老男孩俱樂部”
OpenAI的新董事會最初由3人組成：問答網(wǎng)站Quora的首席執(zhí)行官、舊董事會唯一的留任者亞當·德安杰洛（Adam D’Angelo），F(xiàn)acebook和Salesforce前高管布雷特·泰勒（Bret Taylor），以及美國前財政部長勞倫斯·薩默斯（Lawrence H. Summers）。有點像精英的“老男孩俱樂部”。
OpenAI的新董事會（從左至右）：Quora首席執(zhí)行官亞當·德安杰洛、美國前財政部長勞倫斯·薩默斯和Facebook和Salesforce前高管布雷特·泰勒。
董事會人數(shù)預(yù)計將增加。OpenAI最大的投資者微軟有望在未來的治理中擁有更大發(fā)言權(quán)，可能包括擁有一個董事會席位。
推動奧特曼下臺的3名董事離開董事會：OpenAI首席科學(xué)家伊利亞·蘇茨克維（Ilya Sutskever）、喬治城大學(xué)安全與新興技術(shù)中心戰(zhàn)略總監(jiān)海倫·托納（Helen Toner）和蘭德公司兼職高級管理科學(xué)家塔莎·麥考利（Tasha McCauley）。后面兩位是舊董事會僅有的兩名女性。
推動奧特曼下臺的董事（從左至右）：OpenAI首席科學(xué)家伊利亞·蘇茨克維、蘭德公司兼職高級管理科學(xué)家塔莎·麥考利、Quora首席執(zhí)行官亞當·德安杰洛和喬治城大學(xué)安全與新興技術(shù)中心戰(zhàn)略總監(jiān)海倫·托納。
《紐約時報》資深科技記者凱文·魯斯（Kevin Roose）用一句話形容這個結(jié)果：“資本主義團隊獲勝。利維坦團隊輸了。”
這句話的背景是：人工智能存在兩種愿景，在一個愿景中，AI是一種變革性的新工具，就像蒸汽機、電力和個人計算機等一系列改變世界的創(chuàng)新，如果使用得當，可能會迎來一個繁榮的新時代，并為利用其潛力的企業(yè)創(chuàng)造巨大的財富。在另一個愿景中，AI更接近于一種外星生命形式——從神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)深處召喚出來的利維坦（神話中的一種怪獸）——必須極其謹慎地加以限制和部署，以防止它接管并殺死我們所有人。
魯斯指出，蘇茨克維、托納和麥考利代表了這樣一群人：學(xué)者、硅谷未來學(xué)家和計算機科學(xué)家的組合，大約從10年前開始積極參與對人工智能的思考，對這項技術(shù)感到既恐懼又敬畏，并擔(dān)心理論上的“奇點”，即人工智能將在那時超出人類遏制它的能力。其中許多人隸屬于有效利他主義者等哲學(xué)團體。2015年OpenAI作為非營利組織建立之初，以及2019年設(shè)計特殊的治理架構(gòu)（非營利組織監(jiān)視“利潤上限”營利性企業(yè)）時，都遵循了這種理念。當時AI行業(yè)內(nèi)的很多人認為，擺脫資本主義的影響是當務(wù)之急，需要將其寫入公司章程和組織文件中。（詳見《有效利他主義與現(xiàn)實：OpenAI革命性的治理模式已死？》）
但自從ChatGPT發(fā)布后，它已經(jīng)變成了一個周用戶數(shù)超過1億的熱門應(yīng)用。思想實驗演變成了真實產(chǎn)品，非營利機構(gòu)在巨大的成本面前承受營利壓力。正是這種矛盾，被普遍認為導(dǎo)致了OpenAI上周末的高層“地震”。
顯然，新的董事會成員都是有著豐富商業(yè)經(jīng)驗的老手。泰勒是一位老練的硅谷交易撮合者，去年他在擔(dān)任Twitter董事會主席時主導(dǎo)了將Twitter出售給特斯拉首席執(zhí)行官埃隆·馬斯克（Elon Musk）。薩默斯是著名的經(jīng)濟學(xué)家，曾表示相信技術(shù)變革對社會有“凈利益（Net Good）”。他們是治理一家商業(yè)機構(gòu)的合適人選。
當奧特曼在過去一年環(huán)游世界，警告媒體和政府有關(guān)人工智能的風(fēng)險時，他反復(fù)強調(diào)OpenAI不同尋常的非營利治理結(jié)構(gòu)，以此作為針對強大人工智能不負責(zé)任發(fā)展的防火墻。在董事會這邊，如果奧特曼開始做出危險的或違背人類利益的行為，就可能驅(qū)逐他。
然而，OpenAI此次高層動蕩事件恰恰以事實證明，董事會其實無法驅(qū)逐奧特曼。不僅如此，董事會自己都被顛覆了。
奧特曼的暗面
截至目前，罷免奧特曼的原因還沒有一個確切說法。
OpenAI在宣布罷免奧特曼時表示，他“與董事會的溝通并不一貫坦誠，阻礙了董事會履行職責(zé)的能力。”O(jiān)penAI的一份內(nèi)部備忘錄后來澄清說，驅(qū)逐奧特曼“并不是為了處理瀆職行為”。一度被定為臨時首席執(zhí)行官的埃米特·謝爾（Emmett Shear）在接受這一職位后寫道，他曾詢問為何奧特曼被免職。“董事會并沒有因為任何具體的安全分歧而將山姆解職。”他寫道。在奧特曼回歸后，該公司承諾將對他被解雇的原因展開調(diào)查。
這種模糊說辭給大量傳言制造了空間，其中一些可能是陰謀論。
最初的猜測是奧特曼在副業(yè)項目上投入了太多時間，比如他正在與中東投資者商討建立一個人工智能芯片公司。
11月22日，兩家媒體又爆出，在奧特曼被罷免4天之前，幾位研究人員向董事會發(fā)出一封信，警告稱一項強大的人工智能發(fā)現(xiàn)可能威脅人類——被稱為Q*的模型。其能力意味著人工智能將擁有類似于人類智能的更強推理能力。一些OpenAI員工擔(dān)憂在將這種先進的人工智能模型商業(yè)化時沒有適當?shù)谋Ｕ洗胧?/p>
還有很多傳言聚焦于奧特曼本人。幾天前，馬斯克聲稱收到一份關(guān)于OpenAI的信件，“（里面提到的）這些問題似乎值得調(diào)查。”信件很快被從網(wǎng)站上刪除。但據(jù)此前看到信件的人說，這是OpenAI前員工寫給董事會的。他們陳述了對奧特曼和前總裁格雷格·布羅克曼（Greg Brockman）的不滿，列出“七宗罪”，包括“不安的欺騙和操縱模式”。
馬斯克分享一份關(guān)于OpenAI的信件，陳述了員工對奧特曼和前總裁布羅克曼的不滿。
更重磅的是《華盛頓郵報》11月22日的一篇報道。報道稱，據(jù)3名知情人士透露，4年前，奧特曼的導(dǎo)師、YCombinator創(chuàng)始人保羅·格雷厄姆 （Paul Graham）從英國飛往舊金山解雇了奧特曼的總裁職位，因為格雷厄姆擔(dān)心奧特曼將自己的利益置于組織之上。
該報道稱，兩位知情人士表示，奧特曼因優(yōu)先考慮個人事務(wù)而不是公務(wù)而聞名，而且他的缺勤行為激怒了同事和一些他本應(yīng)培育的初創(chuàng)企業(yè)。另一個擔(dān)憂是，奧特曼親自投資了他通過孵化器發(fā)現(xiàn)的初創(chuàng)企業(yè)，使用的是他與兄弟杰克共同創(chuàng)建的基金——這是一種為了個人致富而進行的雙重投資。
盡管許多媒體將奧特曼的罷免歸咎于安全考慮與商業(yè)利益之間的意識形態(tài)斗爭，但一位熟悉董事會程序的人士表示，罷免根源于擔(dān)心奧特曼試圖避免董事會對其權(quán)力進行任何檢查。他不愿意接受任何不偏向于他的董事會人員構(gòu)成。
在硅谷，這種沖突也不少見。因為那里彌漫著崇尚“神童”的文化，個人崇拜和人脈經(jīng)常取代更強大的管理護欄。剛剛倒臺的前加密貨幣交易所FTX的創(chuàng)始人山姆·班克曼-弗里德（Sam Bankman-Fried）就是一個例子，他所犯下的七項罪名就是在神童光環(huán)下被眾多人所忽視的。但熟悉奧特曼的6位科技界人士告訴《華盛頓郵報》，奧特曼的個人特質(zhì)有時會導(dǎo)致他疏遠一些最親密的盟友，尤其是人們認為他即使對于硅谷的積極進取文化來說也過于機會主義。
奧特曼還被指責(zé)對人實施一種持續(xù)而微妙的操縱。OpenAI前員工、機器學(xué)習(xí)研究員杰弗里·歐文（Geoffrey Irving）現(xiàn)供職于競爭對手谷歌DeepMind，他本周在X上發(fā)帖稱，在為奧特曼工作了兩年后，他不愿意支持奧特曼。“1.他總是對我很好。2. 他在不同場合對我撒謊。3. 他具有欺騙性、操縱性，對其他人更糟糕，包括我的親密朋友（同樣，出于某種原因，他只對我很好）。”
在這些傳聞與報道中，一個遠不夠完美的奧特曼形象浮現(xiàn)出來，給OpenAI的未來帶來了一些不確定性。
道德資本主義的真面目
在連續(xù)5天對OpenAI事件的密切關(guān)注中，有一個因素很大程度上被忽視了——監(jiān)管機構(gòu)的看法。
美國政治新聞媒體POLITICO評論稱，無論接下來事態(tài)如何發(fā)展，這場混亂都可能會影響國會和拜登政府處理人工智能監(jiān)管的方式。
自從ChatGPT引發(fā)華盛頓對人工智能的新關(guān)注以來，奧特曼一直扮演著國會人工智能指南的核心角色。他5月在參議院的證詞受到了兩黨的一致贊揚，立法者稱贊他“真誠”地希望幫助制定新的人工智能規(guī)則。現(xiàn)在，他們對奧特曼還有多少信任？
今年5月，奧特曼在美國國會作證。
微軟在此次高層動蕩中發(fā)揮了巨大的影響力，如果其在人工智能領(lǐng)域的影響力增長，就會引發(fā)有關(guān)反壟斷的新?lián)鷳n。
同時，這場“政變”也可能會提高華盛頓對先進人工智能帶來的風(fēng)險的興趣，或者使包括有效利他主義和長期主義在內(nèi)的意識形態(tài)變得不可信。硅谷的人工智能專家對于先進人工智能風(fēng)險的分歧越來越大，斗爭雙方已經(jīng)在華盛頓爭奪影響力。（詳見《觀察｜美國監(jiān)管AI背后：哪個政府機構(gòu)牽頭？AI四大門派聽誰的？》）
美國創(chuàng)新基金會執(zhí)行董事扎克·格雷夫斯（Zach Graves）表示，華盛頓如何回應(yīng)未來有關(guān)人工智能風(fēng)險的爭論，將取決于OpenAI董事會選擇罷免奧特曼的原因。如果原因真的是因為安全問題，包括“通用人工智能”可能取得的進展，政策制定者可能會對人工智能的災(zāi)難性潛力更感興趣。
因為目前情況不明，華盛頓人工智能領(lǐng)域最前沿的立法者都不愿立即發(fā)表意見。
世界各地的監(jiān)管機構(gòu)也將密切關(guān)注OpenAI接下來會發(fā)生什么。就在OpenAI動蕩期間，歐盟具有里程碑意義的《人工智能法案》談判正處于關(guān)鍵時刻，該法案可能為世界各地的監(jiān)管定下基調(diào)。
近年來，歐盟已越來越多地采取更嚴格的方式監(jiān)管大型科技公司。但歐盟官員和成員國對于是否嚴厲打擊人工智能公司或允許一定程度的自我監(jiān)管存在分歧。據(jù)路透社披露的一篇聯(lián)合論文，本周，法國、德國和意大利表示，他們支持對基礎(chǔ)模型“通過行為準則進行強制性自我監(jiān)管”，這表明可以相信OpenAI和其他公司會檢查自己的技術(shù)。
但對于更強有力監(jiān)管的支持者來說，過去幾天的事件表明，自我監(jiān)管不足以保護社會。“圍繞山姆·奧特曼發(fā)生的這出戲劇告訴我們，我們不能依賴這些公司有遠見的首席執(zhí)行官或形象代言人，相反，我們需要監(jiān)管。”領(lǐng)導(dǎo)新規(guī)則談判的歐洲議會議員布蘭多·貝尼費（Brando Benifei）告訴《連線》，“這些事件向我們表明，這些企業(yè)的治理存在不可靠性和不可預(yù)測性。”
非營利組織Humane Intelligence創(chuàng)始人、Twitter道德人工智能團隊前負責(zé)人魯曼·喬杜里（Rumman Chowdhury）表示，OpenAI的危機和重置應(yīng)該敲響警鐘。這些事件表明，道德資本主義的概念——將非營利和營利實體結(jié)合在一起的公司結(jié)構(gòu)——行不通，政府需要采取行動。
Tags:
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風(fēng)險，讀者在采取與本文內(nèi)容相關(guān)的任何行動之前，請務(wù)必進行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負任何責(zé)任。
