新火種
2023-11-22 
OpenAI“地震”始末：理想主義的烈焰與現實的海洋
·“除了營利性公司之外，任何其他公司都不是組織公司的正確方式。”
·“這是一個非常糟糕的周末。我沒有看到任何明顯的贏家。”
在OpenAI的官網上，如今依然能找到2015年12月11日發布的介紹該公司的博客文章。
當ChatGPT去年11月橫空出世、震動全球時，其開發機構OpenAI只有7歲。
在OpenAI的官網上，如今依然能找到2015年12月11日發布的介紹該公司的博客文章。“OpenAI是一家非營利性人工智能研究公司。我們的目標是以最有可能造福全人類的方式推進數字智能，不受產生財務回報的需求的限制。由于我們的研究沒有財務義務，因此我們可以更好地關注對人類的積極影響。”文章寫道。作者是創始人格雷格·布羅克曼和伊利亞·蘇茨克維。
8年后，身份是OpenAI董事會成員、首席科學家的蘇茨克維主導了一場“政變”，突然將總裁布羅克曼逐出董事會，并解雇了同樣是創始人的首席執行官山姆·奧特曼——在過去一年成為人工智能代言人而享譽全球的人物。
這一消息震動全球科技界。OpenAI正如火箭般躥升，從某種意義上說它設定了整個人工智能行業的風向，而這個行業卻前所未有地既發展迅猛又風險巨大。20年來科技界最重大的管理層“地震”并不足以形容此次事件，因為同樣被董事會驅逐的蘋果公司創始人斯蒂夫·喬布斯和Twitter創始人杰克·多爾西，至少在當時都未處于如此具有非凡意義的行業。
更加富有戲劇性的是，僅僅在幾十個小時內，OpenAI就換了三任首席執行官，布羅克曼和奧特曼是否回歸公司、董事會是否辭職，一次次懸而未決。而主導罷免行動的蘇茨克維最終又表示后悔，和幾乎所有員工一起簽署聯名信要求奧特曼回歸。
整個科技企業史甚至所有商業史都難得見到如此奇怪的景象。但這一切的種子，早在2015年就埋下了。
開創：法定責任是對人類負責
上述博客文章反映了濃厚的理想主義氣質和腳踏實地的精神：“我們認為人工智能應該是人類個人意志的延伸，并本著自由精神，盡可能廣泛和均勻地分布。這個項目的結果是不確定的，工作也很困難，但我們相信目標和結構是正確的。我們希望這對于該領域的佼佼者來說是最重要的。”
文章最后感謝了承諾給予他們10億美元資助的“金主”們，“盡管我們預計在未來幾年內只花費其中的一小部分。”
OpenAI致力于創造能夠惠及“全人類”的通用人工智能（AGI）。根據公司的說法，AGI將足夠先進，能夠在“大多數具有經濟價值的工作”上超越任何人。公司的章程指出，OpenAI的“首要法定責任是對人類負責”，而不是對投資者甚至是員工負責。
無論創始人的動機是什么，讓OpenAI成為非營利組織的決定不僅僅是說說而已：該公司是一家501(c)3公司。501(c)3是美國稅法的一個條款，給于宗教、慈善、教育等組織以免稅待遇。比爾·蓋茨基金會、美國癌癥協會等都屬于此類組織。
布羅克曼（左）與蘇茨克維。
除了奧特曼、布羅克曼和蘇茨克維“三劍客”，特斯拉首席執行官埃隆·馬斯克也是創始人之一。當時的馬斯克正四處宣傳人工智能對人類造成的風險，甚至聯系了美國前總統奧巴馬。在遇到奧特曼以后，兩人一拍即合，決定創辦OpenAI，之所以名字里有open（開放），就是因為他們希望實驗室的軟件是開源的，將努力對抗谷歌在這一領域日漸強大的主導地位。
但這種承諾并沒有持續太久。
根據Semafor今年早些時候的報道，2018年，馬斯克曾試圖接管OpenAI但遭到拒絕。他離開了董事會，也帶走了對OpenAI運營費用的支持。這就引出了另一個關鍵事件：維持大型語言模型的巨量算力需要花錢，奧特曼因而創建了利潤上限公司OpenAI Global。
OpenAI Global雖然“被允許尋求和分配利潤”，但受非營利組織OpenAI使命的約束。營利性公司的投資者同意其投資回報上限，對于初始投資者來說上限是100倍。
OpenAI網站給出了描述其當前組織結構的圖片。
目前OpenAI最大的投資者是微軟。從合作協議上看，一旦OpenAI實現了AGI使命，微軟就會退出。但微軟不僅是投資者，也是客戶，并將OpenAI納入其所有產品中。這就決定了微軟的特殊角色。
加速：“低調的研究預覽”
下一個關鍵事件更為重要：2022年11月底，ChatGPT發布。
在本月舉行的OpenAI首屆開發者大會上，該公司宣布ChatGPT每周擁有超過1億用戶，收入超過10億美元。過去一年，它從根本上改變了幾乎所有大公司和政府關于人工智能的討論。
但是，對發布ChatGPT的態度并沒有在公司內部取得一致。《大西洋》雜志最新一篇文章采訪了OpenAI的10名現任和前任員工，稱ChatGPT使OpenAI朝著完全相反的方向發展，加劇并惡化了已經存在的意識形態裂痕，即一個群體源自硅谷的技術樂觀主義，對快速商業化充滿活力；另一個群體深陷對人工智能對人類構成的存在風險的恐懼中，必須極其謹慎地加以控制。
早期OpenAI的辦公室。
既然分歧存在，ChatGPT又為何會發布？
根據員工透露，2022年秋天，他們都在為其迄今為止最強大的大型語言模型GPT-4的發布做準備，努力創建支持產品所需的基礎設施，并完善政策以決定OpenAI是否允許用戶的某些行為。
然而就在此時，OpenAI內部開始流傳有關其競爭對手Anthropic正在開發自己的聊天機器人的傳聞。Anthropic是一群OpenAI前員工在2020年離開后成立的。3位當時在公司的人士稱，OpenAI的領導層11月告訴員工，他們需要在幾周內推出一個聊天機器人。為了完成這個任務，他們指示員工發布一個現有模型GPT-3.5，并配備了基于聊天的界面。領導層小心地將這一努力描述為不是一次產品發布，而是一個“低調的研究預覽”。通過將GPT-3.5交到人們手中，奧特曼和其他高管表示，OpenAI可以收集更多關于人們如何使用和與人工智能互動的數據，這將有助于公司指導GPT-4的開發。
這種方法也符合公司的策略：逐漸向世界發布技術，讓人們逐漸適應它們。包括奧特曼和首席技術官米拉·穆拉蒂在內的高管反復向媒體表示：OpenAI需要讓“數據飛輪”轉起來。
在OpenAI內部，“低調的研究預覽”這一說法立即成為了一個熱門梗，員工將其制成了筆記本電腦貼紙。
ChatGPT的飛速成功給公司帶來了巨大的壓力，加速了為利潤而創造產品的競賽，同時給公司的基礎設施和專注于評估和緩解技術風險的員工帶來了前所未有的挑戰。
來自研究團隊的計算能力被重新分配，以處理流量激增。OpenAI的服務器多次崩潰，流量監控工具也屢屢失效。公司內的安全團隊推動放慢進程，以努力完善ChatGPT，拒絕某些類型的濫用請求，并對查詢作出更合適的回答。
與此同時，產品部門希望借助這股勢頭加大商業化力度。公司雇傭了數百名員工，以積極擴大公司的產品供應。但一系列新產品使情況變得更糟：流量監控工具的功能嚴重滯后，API（應用程序編程接口）平臺上的欺詐行為激增。一些員工甚至出現了心理健康問題。溝通不暢，員工只有在Slack上注意到同事消失后，才發現他們已經被解雇。
而專注于人工智能安全挑戰的“對齊”團隊也感到沮喪，他們對GPT-4發布和廣泛集成到其他產品的速度感到不安，認為自己所做的人工智能安全工作還不夠。
員工們共同描繪了這樣一個畫面：隨著時間的推移，盈利部門商業化的壓力日益增加，與公司的既定使命發生了沖突，直到ChatGPT和其他緊隨其后的產品發布使一切達到了頂點。
崩裂：奧特曼與蘇茨克維
最高的頂點可能就在今年11月6日的OpenAI首屆開發者大會。消息人士稱，奧特曼宣布允許任何人創建自定義的GPT，激怒了蘇茨克維。
蘇茨克維曾在Google Brain工作，被奧特曼花費巨大力氣挖到了OpenAI。這位以色列裔加拿大計算機科學家在“AI教父”杰弗里·辛頓的指導下取得了一系列驚人成就，包括共同發明了卷積神經網絡AlexNet。辛頓今年辭去企業職務，大聲疾呼人工智能給人類生存帶來的威脅。多年來，他一直與蘇茨克維保持密切聯系。
奧特曼與蘇茨克維今年6月在以色列的一個活動上。
蘇茨克維在公司內部也開始表現得像一個精神領袖，3名與他共事的員工告訴《大西洋》。他不斷熱情重復的口頭禪是“感受AGI”。在OpenAI 2022年的假日派對上，蘇茨克弗帶領員工高喊：“感受AGI！感受AGI！”他也越來越與公司內部關注存在風險的派系結盟。
蘇茨克維對安全問題的擔憂越來越直言不諱，并在7月組建了一個“對齊”團隊，以開發更多人工智能安全技術，并為本世紀可能到來的AGI做準備，公司將為此專門分配20%的現有計算芯片。
在“對齊”團隊成立后不久，OpenAI發布了強大的圖像生成器DALL·E 3。消息人士透露，蘇茨克維和奧特曼的緊張關系在10月以后加劇。然后，公司在開發者大會上宣布推出GPTs，用戶無需編碼就可構建ChatGPT的定制版本。緊接著，OpenAI經歷了一系列停機事件，微軟因安全擔憂暫時限制員工訪問ChatGPT。
與此同時，奧特曼持續地為OpenAI造浪，他告訴《金融時報》公司已經開始研發GPT-5，還在尋求從軟銀和中東投資者那里籌集數十億美元，以建立一家芯片公司，與英偉達等半導體制造商競爭并降低OpenAI的成本。
壓垮駱駝的最后一根稻草終于來了。
死亡：治理模式的矛盾邏輯
對于一家正在談判以高達860億美元估值出售股票的公司來說，理念上的分歧通常不會讓它走向滅亡，但正如前面所說，OpenAI不是一家普通公司，它的董事會也不是普通董事會。
OpenAI的董事不持有股權或其他報酬。奧特曼本人只是通過他之前擔任Y Combinator總裁的“小額”投資間接持有股份。董事的關鍵信托責任不是維護股東價值，而是公司的使命——創建安全的AGI，利潤對于這一使命來說是次要的。
根據Wayback Machine網站的存檔版本，繼今年早些時候一批董事離職后，OpenAI于7月首次在網站上發布了現任董事會名單，包括布羅克曼、蘇茨克維和奧特曼3名聯合創始人，其余3人都不是該公司員工，分別是問答網站Quora的首席執行官亞當·德安吉洛、地理空間技術初創公司GeoSim Systems的創始人塔莎·麥考利和喬治城大學安全與新興技術中心的戰略和基礎研究主任海倫·托納。
“這些人并不是你想要的管理世界上最重要的私營公司的商業或運營領導人。”一位專注于人工智能的風險投資家評價稱。
就是這些人，在沒有提前通知投資者的情況下突然告之奧特曼被解職、布羅克曼被逐出董事會，甚至通過Google Meet這樣的線上會議工具完成這一切。
但是沒有人否認，董事會實際上正在按照章程履行其職責：在董事會認為奧特曼和他的派系沒有“構建造福人類的通用人工智能”的范圍內，它有權開除他。盡管違背直覺：奧特曼是硅谷人脈最廣的高管之一，也是一位多產的籌款人和交易撮合者，擁有OpenAI員工的絕對忠誠，幾乎所有高層和員工都愿意追隨他而去，連蘇茨克維都改變了主意。
所以整個OpenAI的治理結構顯得如此尷尬。正如知名科技博客Techtris所寫：“一組邏輯告訴你：做研究是昂貴的，如果你有錢，做昂貴的事情會容易得多。收入是獨立性的最佳保證，因此OpenAI應該將其擁有的技術貨幣化，以便成為現在人工智能和人工智能安全辯論的主要參與者，并為真正的通用人工智能的工作提供資金。”
“另一組邏輯告訴你，今天的商業干擾和妥協將阻止本應繼續建設未來的工作——無論這意味著更加努力、更快地專注于開發通用人工智能，還是首先停下來研究如何安全地做到這一點。”
在這兩組邏輯的矛盾中，OpenAI目前的治理模式顯然已經死亡，無論奧特曼是否會回歸該公司。如果他得以回歸，是否愿意容忍對自己權力的限制，使管理層繼續在脆弱中重復此前的錯誤？如果他不回歸，OpenAI至少95%的員工已表示將離開，最終留下一個空殼。
未來：暫無明顯的贏家
如今，微軟正處于關鍵地位。它以極快的速度宣布接納奧特曼和布羅克曼，并承諾給于相對獨立的運營地位。這相當于，微軟以0美元的價格收購了OpenAI，反壟斷訴訟的風險也為0。與此同時，微軟的收益就是OpenAI的損失。
11月6日，微軟首席執行官薩蒂亞·納德拉出席OpenAI首屆開發者大會。
為了獲得巨大的短期利益，微軟將其未來的很大一部分押在了與OpenAI的合作伙伴關系上，盡管其中大部分投資尚未支付，或以云服務Azure的積分形式授予。OpenAI的技術內置于微軟的一整套產品中。該公司已經擁有所有OpenAI IP的永久許可，包括源代碼和模型權重。微軟還大量投資于為OpenAI定制的基礎設施，并且剛剛發布了一款專為運行OpenAI模型而調整的定制芯片。
“最終的結果是，一個致力于人工智能安全發展的實體基本上已經將其所有工作以及（可能很快）其相當一部分人才移交給了地球上最大的營利性實體之一。或者，在人工智能相關的框架中，OpenAI的結構最終與履行其既定使命不一致。”知名科技評論家本·湯普森認為，“長期以來，獲取自身利益一直是個人和公司結盟的最佳方式，這是有充分理由的。”
換句話說，雖然OpenAI董事會可能擁有非營利組織的章程，并且有令人欽佩的行動意愿并堅持自己的信念，但他們最終沒有影響力，因為他們不是一家有資本的營利性公司從而實現真正獨立。
湯普森斷定，除了營利性公司之外，任何其他公司都不是組織公司的正確方式。
截至目前，微軟首席執行官薩蒂亞·納德拉仍在等待OpenAI董事會做出最終抉擇：集體下臺讓奧特曼回歸，還是放任奧特曼和OpenAI員工前往微軟。
如果奧特曼進入微軟，就是兩個占據人工智能主導地位的實體強強聯合。但Cloudflare聯合創始人威廉·普林斯并不同意微軟就是贏家。他認為，在此之前，微軟通過投資抓住了OpenAI大部分的上升空間，同時仍然保持了足夠的距離避免被監管機構追責。即使現在微軟能夠吸收OpenAI的人才，但OpenAI的高層人員在3年內仍然留在微軟的機會會逐漸接近于零。“OpenAI的獨立性和明確的使命正是能夠讓這群令人難以置信的人才長期保持積極性和一致性的因素，但讓Office365電子表格變得更加聰明并不能凝聚像他們這樣的團隊。當然，他們會嘗試擁有一定程度的獨立性，但價值數萬億美元的商業軟件巨頭的機制很難不陷入困境并被淘汰。”
與此同時，谷歌公司可能需要做出一些重大改變，該公司的最新大模型Gemini已被推遲發布，而且隨著支出轉向人工智能，其云業務一直在放緩。
Anthropic曾一度看起來像是大贏家，但現在作為一個獨立實體卻感覺越來越脆弱。該公司已與谷歌和亞馬遜達成合作協議，但現在可能面臨微軟更有力的競爭。
“如果有一家公司準備加入（科技）五巨頭的行列，那一定是OpenAI，這要歸功于ChatGPT，但現在看來可能性較小（但并非不可能）。”湯普森認為。
“這是一個非常糟糕的周末。我沒有看到任何明顯的贏家。”普林斯在X上寫道。
最后的話
無論奧特曼留下還是離開，都無法解決人工智能發展中存在的一個危險缺陷。
“盡管奧特曼和其他人對監管表示口頭支持，并說他們歡迎全世界的反饋，但這個動蕩的周末展示了在可能是我們時代最重要的技術進步上，實際上有多少人能發表意見。人工智能的未來正被富有的技術樂觀主義者、狂熱的末日論者和數十億美元的公司之間的意識形態斗爭所決定。”《大西洋》評論稱，“OpenAI的命運可能懸而未決，但公司的自負——它的名稱所代表的開放性——顯示了其局限性。”
據兩位了解情況的人士透露，蘇茨克維曾委托當地藝術家制作了一個木制雕像，意在代表一種“不對齊”的人工智能——即不符合人類目標的人工智能。他將其點燃，象征著OpenAI對其創立原則的承諾。
幾天前，蘇茨克維用OpenAI的初衷在董事會再次點燃了烈焰，隨之而來的是數百多名員工海洋般的離職潮，現在連他自己也跳進了潮水。
左起：山姆·奧特曼、米拉·穆拉蒂、格雷格·布羅克曼和伊利亞·蘇茨克維。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
