新火種
2023-12-07 
馬斯克多次失手，OpenAI異軍突起，硅谷AI之戰(zhàn)十年前已經(jīng)打響
原文來源：愛范兒
圖片來源：由無界 AI生成
編者按：「那些聲稱最擔(dān)心人工智能會帶來危機(jī)的人，卻是最堅(jiān)決要創(chuàng)造它并享受它所帶來的財(cái)富的人。」這篇來自《紐約時報(bào)》的特寫報(bào)道，為我們回溯了從 2010 年就已經(jīng)開始醞釀的硅谷 AI 之爭：1. 馬斯克和 Google 聯(lián)合創(chuàng)始人拉里·佩奇在 2015 年的派對上「鬧翻」，兩人對 AI 發(fā)展持對立態(tài)度。2. DeepMind 創(chuàng)始人丹米斯·哈撒比斯最開始是用國際象棋獲得了彼得·蒂爾的關(guān)注。在蒂爾的支持下，DeepMind 獲得馬斯克關(guān)注和投資，逐漸成長。3.「AI 教父」杰弗里·辛頓舉行了一場「拍賣會」，「賣」的是自己和團(tuán)隊(duì)。最后 Google 成功將辛頓博士團(tuán)隊(duì)收入囊中。4. 這場拍賣象征著硅谷巨頭正式進(jìn)入 AI 戰(zhàn)爭。DeepMind「知難而退」，決定出售。5. 出售后的 DeepMind 原設(shè)有「道德委員會」來確保 AI 的安全發(fā)展，但這個委員會最終變得形同虛設(shè)。6. OpenAI 和馬斯克決裂，走向和微軟的合作。7. OpenAI 的達(dá)里奧·阿莫迪離開，創(chuàng)立 Anthropic。8. OpenAI 通過了比爾·蓋茨的「考試」，GPT 被后者視為具有革命性的創(chuàng)新。2015 年 7 月，埃隆·馬斯克在加利福尼亞的葡萄酒鄉(xiāng)村度假村慶祝他的 44 歲生日，這是他的妻子為他舉辦為期三天的派對，度假村里布滿了小木屋。只有家人和朋友受邀參與，孩子們在這家納帕谷的高檔物業(yè)中奔跑玩耍。
這時離 Twitter 成為 X 和特斯拉能盈利還有幾年。馬斯克先生和他的妻子塔盧拉·萊利（Talulah Riley）—— 一位在 HBO 科幻劇《西部世界》中飾演美麗但危險(xiǎn)的機(jī)器人的女演員 —— 離他們第二次婚姻的結(jié)束還有一年。派對的客人拉里·佩奇（Larry Page），那時還是 Google 的首席執(zhí)行官。而人工智能只是在幾年前開始被公眾所知，當(dāng)時它被用來在 YouTube 上識別貓 —— 準(zhǔn)確率為16%。
當(dāng)馬斯克和佩奇在第一晚的晚餐后，坐在泳池邊上的篝火旁聊天，人工智能是他們談?wù)摰闹黝}。這兩位億萬富翁已經(jīng)是十多年的好友，馬斯克有時開玩笑說，他不時會在通宵玩游戲后在佩奇先生的沙發(fā)上過夜。
但那個明朗的夜晚的氣氛很快變得緊張起來，因?yàn)閮扇碎_始在爭論人工智能最終到底是會提升人類還是毀滅人類。
隨著討論延伸至清涼的夜，氣氛變得越來越緊張，30 多號來參加派對的人里已有一些聚集起來，靠近傾聽。因聲帶受到一個不尋常的疾病影響十多年，佩奇用低聲細(xì)語來描述他的數(shù)字烏托邦愿景。他說，人類最終會與人工智能機(jī)器融為一體。有一天，會有許多種智能競爭資源，而最好的會贏。
如果那樣的事情發(fā)生，馬斯克說，我們就完了。機(jī)器會毀滅人類。
帶著一絲挫敗的嘶啞，佩奇堅(jiān)稱我們應(yīng)追求他所描述的烏托邦。最后，他稱馬斯克為「物種主義者」，一個偏愛人類而不是未來數(shù)字生命形態(tài)的人。
馬斯克后來說，那個羞辱是「最后一根稻草」。
當(dāng)人群散去，許多人看起來對此感到驚愕，但也覺得有趣，他們覺得，這也只是硅谷派對上經(jīng)常出現(xiàn)的那種深奧辯論。
然而，八年以后，這兩人間的辯論看起來頗有先見之明。人工智能到底是會提升世界還是毀滅它 —— 或者至少造成嚴(yán)重的損害 —— 已經(jīng)構(gòu)成了硅谷創(chuàng)業(yè)者、聊天機(jī)器人用戶、學(xué)者、立法者和監(jiān)管者之間，關(guān)于我們是應(yīng)該控制或任由其發(fā)展的持續(xù)辯論框架。
那場辯論使得世界上一群最富有的人相互對立：馬斯克，佩奇，Meta 的馬克·扎克伯格（Mark Zuckerberg），科技投資人彼得·蒂爾（Peter Thiel），微軟的薩蒂亞·納德拉（Satya Nadella）和 OpenAI 的薩姆·奧特曼（Sam Altman）。他們都努力地在這個可能有朝一日價(jià)值數(shù)萬億美元業(yè)務(wù)中爭一杯羹，還有爭奪去塑造它的權(quán)力。
這場競爭的核心是一個讓人費(fèi)解的悖論。那些聲稱最擔(dān)心人工智能的人，卻是最堅(jiān)決要創(chuàng)造它并享受它所帶來的財(cái)富的人。他們以一個堅(jiān)定的信念來為自己的野心正名 —— 只有他們自己才能避免人工智能對地球造成危險(xiǎn)。
那個夏天的派對過后不久，馬斯克先生和佩奇先生就停止了交談。幾周后，馬斯克先生與當(dāng)時正在運(yùn)營科技孵化器的奧特曼先生以及幾位研究員在加利福尼亞州門洛帕克的羅斯伍德酒店的私人房間里共進(jìn)晚餐，這個地方靠近桑德希爾路的風(fēng)險(xiǎn)投資辦公室，是一個受歡迎的交易地點(diǎn)。
那個夏日派對過去不久后，馬斯克和佩奇就不聯(lián)系了。幾周后，馬斯克與當(dāng)時正在運(yùn)營一家科技孵化器的奧特曼以及幾位研究員在加州門洛帕克的瑰麗酒店的私人房間里共進(jìn)晚餐。這是一個相當(dāng)受歡迎的聊合作的地方，因?yàn)樗x沙山路上的 VC 辦公室很近。
那頓晚餐促成了一家名為 OpenAI 的創(chuàng)業(yè)公司在同年晚些的成立。得到了來自馬斯克和其他投資者的數(shù)億美元支持，這個實(shí)驗(yàn)室承諾保護(hù)世界免受佩奇的愿景影響。
（馬斯克和佩奇因?qū)?AI 理念出現(xiàn)分歧而分裂。）
多得它的 ChatGPT 聊天機(jī)器人，OpenAI 已經(jīng)從根本上改變了科技行業(yè)，并向世人展示了人工智能的風(fēng)險(xiǎn)和潛力。據(jù)兩位熟悉該公司最新融資輪的人士透露，OpenAI 的估值超過 800 億美元，盡管馬斯克和奧特曼的合作并未能延續(xù)。從那以后，兩人已經(jīng)不再對話。
「其中存在分歧、不信任、自我主義，」奧特曼說。「人們越是朝著同一個方向前進(jìn)，分歧就越有尖銳。你在教派和宗教團(tuán)體中也能看到這一點(diǎn)。正是那些最親近的人，之間會有激烈的爭斗。」
上個月，這場內(nèi)斗來到了 OpenAI 的董事會。反叛的董事會成員試圖逼走奧特曼，因?yàn)樗麄冋J(rèn)為，他們再也不能信任他能構(gòu)建可以造福人類的 AI。在五天的混亂中，OpenAI 看起來馬上就要崩潰了，直到重要投資者和員工施壓并威脅要跟隨奧特曼離開，董事會才讓步。
OpenAI 內(nèi)部的戲劇性爭斗讓世界首次窺見了那些將決定 AI 未來的人之間的激烈爭斗。
但在 OpenAI 這次幾乎崩塌事件發(fā)生的幾年前，硅谷就有一場鮮為人知但激烈的競爭，爭奪著現(xiàn)在正在快速重塑世界的技術(shù)，它正在改寫的方面從我們該如何教育孩子延伸到該如何打仗。《紐約時報(bào)》采訪了 80 多位高管、科學(xué)家和企業(yè)家，包括兩位參加了馬斯克 2015 年生日派對的人，來講述這個關(guān)于野心、恐懼和金錢的故事。
DeepMind 的誕生
在納帕谷那場派對發(fā)生的五年前，以及 YouTube 上貓咪視頻大獲成功兩年前，34 歲的神經(jīng)科學(xué)家丹米斯·哈撒比斯（Demis Hassabis）走進(jìn)了彼得·蒂爾在舊金山的聯(lián)排別墅舉辦的雞尾酒會，他意識到自己找到了金礦。在蒂爾那俯瞰著當(dāng)?shù)氐乃囆g(shù)宮和天鵝池的客廳里，擺放著一副棋盤。哈撒比斯博士曾經(jīng)是 14 歲以下類別中世界排名第二的棋手。
「我為那次會面準(zhǔn)備了一年，」哈撒比斯博士說。「我以為那會是我獨(dú)特的切入點(diǎn)：我知道他喜歡下棋。」
2010 年，居住在英國的哈撒比斯博士和他的兩位同事，正在尋找資金來開始構(gòu)建「人工通用智能」或稱為A.G.I.，這是一種能做任何大腦能做的事情的機(jī)器。當(dāng)時，很少有人對人工智能感興趣。經(jīng)過半個世紀(jì)的研究，人工智能領(lǐng)域未能產(chǎn)出任何接近人腦的東西。
然而，一些科學(xué)家和思考者已經(jīng)對 AI 的負(fù)面影響產(chǎn)生了固執(zhí)的看法。許多人，如這三位來自英國的年輕人，都和互聯(lián)網(wǎng)哲學(xué)家、自學(xué)成才的 AI 研究者埃利澤·尤多科夫斯基（Eliezer Yudkowsky）有所關(guān)聯(lián)。尤多科夫斯基先生是是一個自稱為「理性主義者」的社區(qū)領(lǐng)導(dǎo)者，后來，這也被稱為「有效利他主義者」。
他們相信人工智能可以找到治療癌癥的方法或解決氣候變化問題，但他們擔(dān)心人工智能機(jī)器人可能會做出其違背其創(chuàng)造者意圖的事情。如果機(jī)器變得比人類更聰明，理性主義者們辯稱，機(jī)器可能會反過來對付他們的創(chuàng)造者。
蒂爾通過對 Facebook 的早期投資以及和馬斯克在 PayPal 早期的合作，積累了巨大的財(cái)富。他對奇點(diǎn)產(chǎn)生了極大的興趣，這是科幻小說的一個主題，描述的是當(dāng)智能技術(shù)無法再被人類控制的那一刻。
在蒂爾的資助下，尤多科夫斯基擴(kuò)大了他的 AI 實(shí)驗(yàn)室，并創(chuàng)建了一個關(guān)于奇點(diǎn)的年度會議。多年前，哈撒比斯博士的兩位同事之一遇到了尤多科夫斯基。他在會議上為他們爭取到了發(fā)言的機(jī)會，確保他們被邀請到蒂爾的派對。
尤德科夫斯基先生向蒂爾介紹了哈撒比斯博士。哈撒比斯以為，派對上會有許多人試圖從蒂爾那里擠出錢。他的策略是安排另一次會面。他告訴蒂爾，主教和騎士之間的關(guān)系很緊張。這兩個棋子的價(jià)值相同，但最好的玩家明白，他們的優(yōu)勢大不相同。
這奏效了。被迷住的蒂爾邀請他們第二天再來，在廚房見面。東道主剛剛完成早晨的鍛煉，身上閃亮的運(yùn)動滿是汗。一個管家遞給他一瓶健怡可樂。他們?nèi)酥v述了自己的提案，很快，蒂爾和他的風(fēng)險(xiǎn)投資公司同意向他們的初創(chuàng)公司投入 140 萬英鎊（大約 225 萬美元）。他是他們的第一位重要投資者。
他們將公司命名為 DeepMind，這是對「深度學(xué)習(xí)」（一種通過分析大量數(shù)據(jù)讓 AI 系統(tǒng)學(xué)習(xí)技能的方式），神經(jīng)科學(xué)以及科幻小說《銀河系漫游指南》中的深思超級計(jì)算機(jī)的致敬。到了 2010 年秋天，他們已經(jīng)在構(gòu)建自己夢想中的機(jī)器。他們堅(jiān)信，因?yàn)槔斫馄渲酗L(fēng)險(xiǎn)，所以他們對于保護(hù)世界有獨(dú)特的優(yōu)勢。
「我并不認(rèn)為這是一個矛盾的立場，」DeepMind 的三位創(chuàng)始人之一 穆斯塔法·蘇萊曼（Mustafa Suleyman）說。「這些技術(shù)將帶來巨大益處。目標(biāo)不是消除或暫停它們的發(fā)展。目標(biāo)是減少它們的負(fù)面影響。」
在贏得了蒂爾的支持后，哈撒比斯博士逐漸進(jìn)入了馬斯克的視野。大約兩年后，他們在蒂爾的投資基金組織的一次會議上相遇，該基金也投資了馬斯克的公司 SpaceX。哈撒比斯博士安排了一次 SpaceX 總部的參觀。之后，就在天花板掛著火箭殼的食堂，兩人共進(jìn)午餐并進(jìn)行了交談。
馬斯克先生解釋說，他的計(jì)劃是殖民，用來躲避地球上人口過度和其他危險(xiǎn)。哈撒比斯博士回應(yīng)說，這個計(jì)劃會奏效 —— 前提是超級智能機(jī)器不會跟著人類到，并在上把人類也摧毀了。
馬斯克無言以對。他從未考慮過這個特定的危險(xiǎn)。馬斯克很快就和蒂爾先生一起投資了 DeepMind，以便能更接近這項(xiàng)技術(shù)的創(chuàng)造。
擁有充足的資金，DeepMind 聘請了專門研究神經(jīng)網(wǎng)絡(luò)的研究人員，這些復(fù)雜的算法以人腦為原型。神經(jīng)網(wǎng)絡(luò)本質(zhì)上是一個巨大的數(shù)學(xué)系統(tǒng)，它花費(fèi)數(shù)天、數(shù)周甚至數(shù)月的時間在大量的數(shù)據(jù)中識別模式。這些系統(tǒng)最初在 1950 年代被開發(fā)出來，它們可以學(xué)會自行處理任務(wù)。例如，分析了數(shù)百個信封上手寫的名字和地址后，它們可以閱讀手寫文本。
DeepMind 進(jìn)一步發(fā)展了這個概念。它構(gòu)建了一個系統(tǒng)，可以學(xué)習(xí)玩經(jīng)典的雅達(dá)利游戲，如《太空侵略者》《乓》和《Breakout》，以展示其潛力。
這引起了硅谷另一巨頭 Google，特別是拉里·佩奇的注意。他看到了 DeepMind 的機(jī)器玩雅達(dá)利游戲的演示。他想?yún)⑴c其中。
人才拍賣
在 2012 年秋季，多倫多大學(xué)一位 64 歲的教授杰弗里·辛頓（Geoffrey Hinton）和兩名研究生發(fā)表了一篇研究論文，向世界展示了人工智能的能力。他們訓(xùn)練了一個神經(jīng)網(wǎng)絡(luò)來識別常見的物體，如花朵、狗和汽車。
科學(xué)家們對于由辛頓博士和他的學(xué)生們構(gòu)建的技術(shù)的準(zhǔn)確性感到驚訝。尤其關(guān)注到這個的人是余凱，他是一位人工智能研究員，曾在一次研究會議上遇到過辛頓博士，并于最近開始為中國的互聯(lián)網(wǎng)巨頭百度工作。據(jù)三位熟悉此事的人士透露，百度曾向辛頓博士和他的學(xué)生們開價(jià) 1200 萬美元，希望他們加入位于北京的公司。
辛頓博士拒絕了百度，但這筆錢引起了他的注意。
這位在劍橋大學(xué)受過教育的英國僑民，除了偶爾在微軟和 Google 工作外，大部分時間都在學(xué)術(shù)界度過，并不特別看重金錢。但他的孩子受神經(jīng)多樣性影響，而這筆錢將意味著經(jīng)濟(jì)上的保障。
「我們并不知道我們的價(jià)值是多少，」 辛頓博士說。他咨詢了律師和收購專家，然后提出了一個計(jì)劃：「我們將組織一場拍賣，我們將出售我們自己。」這場拍賣將在哈拉斯酒店和太浩湖賭場舉辦的年度人工智能會議上進(jìn)行。
大科技公司開始關(guān)注。Google、微軟、百度等公司開始相信，神經(jīng)網(wǎng)絡(luò)將帶來的機(jī)器，將不僅能擁有看的能力，而且還能聽、寫、說，最終 —— 甚至能思考。
佩奇在他公司 Google Brain 的人工智能實(shí)驗(yàn)室看到了類似的技術(shù)，他認(rèn)為辛頓博士的研究可以提升他的科學(xué)家們的工作。他相當(dāng)于是給了 Google 的高級副總裁兼工程師艾倫·尤斯塔斯（Alan Eustace）一張沒填數(shù)字的支票，讓他雇傭他任何他所需要的人工智能專家。
尤斯塔斯先生和負(fù)責(zé) Brain 實(shí)驗(yàn)室的杰夫·迪恩（Jeff Dean）飛到了太浩湖，并在拍賣前一晚約了辛頓博士和他的學(xué)生去酒店內(nèi)的一家牛排館吃飯。迪恩博士回憶說，那里彌漫著濃重的舊煙味。他們勸說辛頓博士和他的學(xué)生去 Google 工作。
第二天，辛頓博士在他的酒店房間里進(jìn)行了拍賣。由于舊傷，他很少坐下。他把一個垃圾桶倒置在桌子上，把筆記本電腦放在上面，然后在接下來的兩天里看著出價(jià)的不斷涌入。
Google 出了一個報(bào)價(jià)。微軟也是。隨著價(jià)格的上漲，DeepMind 很快就退出了。根據(jù)拍賣詳細(xì)文件，這些行業(yè)巨頭將出價(jià)推高到 2000 萬美元，然后是 2500 萬美元。當(dāng)價(jià)格超過 3000 萬美元時，微軟退出了，但卻在 3700 萬美元時重新加入競標(biāo)。
「我們感覺那就像電影一樣，」辛頓博士說。
杰弗里·辛頓和他的兩位明星學(xué)生伊爾亞·蘇茨克維和亞歷克斯·克里澤夫斯基（Alex Krizhevsky）
然后，微軟第二次退出競標(biāo)。只剩下百度和 Google，他們將競標(biāo)價(jià)格推到 4200 萬美元，4300 萬美元。最后，在 4400 萬美元時，辛頓博士和他的學(xué)生終止了拍賣。盡管出價(jià)仍在上漲，但他們想為 Google 工作。而且這筆錢數(shù)目已經(jīng)夠驚人。
這是一個明確的標(biāo)志，表明資金雄厚的公司決心購買最有才華的人工智能研究人員 —— DeepMind 的哈撒比斯博士也意識到這一點(diǎn)。他一直告訴自己員工，DeepMind 將保持獨(dú)立的公司狀態(tài)。他認(rèn)為，這是確保其技術(shù)不會變成危險(xiǎn)物的最佳方式。
但是，當(dāng)大型科技公司加入人才競爭時，他決定自己已經(jīng)別無選擇：是時候出售了。
到 2012 年底，據(jù)三位知情人士透露，Google 和 Facebook 都在尋求收購這家倫敦實(shí)驗(yàn)室。哈撒比斯博士和他的聯(lián)合創(chuàng)始人堅(jiān)持了兩個條件：DeepMind 的技術(shù)不能用于軍事目的，其人工智能技術(shù)必須由一個由技術(shù)人員和倫理學(xué)家組成的獨(dú)立委員會進(jìn)行監(jiān)督。
Google 的出價(jià)是 6.5 億美元。Facebook 的馬克·扎克伯格向 DeepMind 的創(chuàng)始人提出了更高價(jià)格，但不同意條件。DeepMind 最終賣給了 Google。
扎克伯格決定建立一個自己的人工智能實(shí)驗(yàn)室。他聘請了法國計(jì)算機(jī)科學(xué)家揚(yáng)·勒丘恩（Yann LeCun）來管理這個實(shí)驗(yàn)室，他也做過開創(chuàng)性的人工智能研究。在辛頓博士拍賣會一年后，扎克伯格和勒丘恩博士飛往塔霍湖參加同樣的人工智能會議。在哈拉斯賭場的一間套房里，扎克伯格先生穿著襪子四處走動，親自面試頂級研究人員，這些人員很快被提供了數(shù)百萬美元的薪水和股票。
人工智能曾經(jīng)被嘲笑。現(xiàn)在，硅谷最富有的人正花費(fèi)數(shù)十億美元以防止自己在競賽中被落下。
消失的道德委員會
當(dāng)馬斯克投資 DeepMind 時，他打破了自己的非正式規(guī)則 —— 他不會投資任何不是自己經(jīng)營的公司。這個決定的負(fù)面影響，在他的生日爭吵后僅一個月左右就顯現(xiàn)了 —— 他又要面對他的前朋友兼億萬富翁同行了。
道德委員會成員們：謝爾蓋·布林、埃里克·施密特、拉里·佩奇
這個場合是 DeepMind 倫理委員會的首次會議，于 2015 年 8 月 14 日舉行。在創(chuàng)始人的堅(jiān)持下，該委員會成立是為了確保他們的技術(shù)在出售后不會造成任何傷害。根據(jù)三位熟悉會議的人士的說法，委員會成員在馬斯克于 SpaceX 的辦公室外的一個會議室集合，窗戶外就能看到他的火箭工廠。
但是，這也是馬斯克控制權(quán)結(jié)束的地方。當(dāng) Google 收購 DeepMind 時，它買下了整個公司。馬斯克被擠出局。雖然他在財(cái)務(wù)上賺了，但他并不開心。
現(xiàn)在，三位 Google 高管牢牢地控制了 DeepMind：佩奇；Google 的聯(lián)合創(chuàng)始人、特斯拉投資者謝爾蓋·布林（Sergey Brin）；以及 Google 董事長埃里克·施密特（Eric Schmidt）。其他出席者包括另一位 PayPal 創(chuàng)始人里德·霍夫曼（Reid Hoffman），以及一位在研究「存在風(fēng)險(xiǎn)」的澳大利亞哲學(xué)家托比·奧德（Toby Ord）。
DeepMind的創(chuàng)始人報(bào)告說，他們正在推進(jìn)其工作，但他們意識到這項(xiàng)技術(shù)存在嚴(yán)重風(fēng)險(xiǎn)。
DeepMind 聯(lián)合創(chuàng)始人蘇萊曼做了一個名為「揭竿而起的人們即將到來」的演講。他告訴董事會，人工智能可能導(dǎo)致虛假信息的爆炸式增長。他擔(dān)憂，在未來幾年中，隨著這項(xiàng)技術(shù)取代無數(shù)的工作，公眾會指責(zé) Google 剝奪了他們的生計(jì)。他認(rèn)為，Google 需要與那數(shù)百萬失業(yè)的人分享其財(cái)富，并提供「全民基本收入」。
馬斯克同意。但很明顯，他那些來自 Google 的客人并未打算進(jìn)行（對他們的）財(cái)富進(jìn)行再分配。施密特先生表示，他認(rèn)為這些擔(dān)憂完全被夸大了。佩奇先生以他通常的低聲同意了。他辯稱，人工智能會創(chuàng)造比它帶走的更多的工作。
八個月后，DeepMind 取得了令 AI 界和全世界震驚的突破。一個名為 AlphaGo 的 DeepMind 機(jī)器擊敗了世界上最好的圍棋選手之一。這場比賽通過互聯(lián)網(wǎng)直播，全球有兩億人觀看。大多數(shù)研究人員曾認(rèn)為，AI 需要再過十年才能擁有做到這一點(diǎn)的創(chuàng)新能力。
理性主義者，有效的利他主義者以及其他擔(dān)心人工智能風(fēng)險(xiǎn)的人聲稱，計(jì)算機(jī)的勝利證實(shí)了他們的恐懼。
「這是另一個跡象，表明人工智能的發(fā)展速度超過了許多專家的預(yù)期，」即將加入 DeepMind 擔(dān)任「人工智能安全」研究員的 Victoria Krakovna 在博客文章中寫道。
DeepMind 的創(chuàng)始人們越來越擔(dān)心 Google 會如何使用他們的發(fā)明。在 2017 年，他們試圖從公司中脫離出來。作為回應(yīng)，Google 提高了 DeepMind 創(chuàng)始人及其員工的薪水和股票獎勵。他們選擇了留下。
道德委員會，從未進(jìn)行過第二次會議。
分手
馬斯克確信佩奇對人工智能的樂觀完全錯誤，并對失去 DeepMind 感到憤怒，于是建立了自己的實(shí)驗(yàn)室。
OpenAI 于 2015 年底成立，就在他和薩姆·奧特曼在硅谷瑰麗酒店會面幾個月后。馬斯克向這個實(shí)驗(yàn)室注入了資金，他的前 PayPal 伙伴，霍夫曼先生和蒂爾先生，也加入了這次行動。三人和其他人承諾向這個項(xiàng)目投入 10 億美元，當(dāng)時 30 歲的奧特曼將協(xié)助運(yùn)營。為了啟動這個項(xiàng)目，他們從 Google 挖來了伊爾亞·蘇茨克維 （Ilya Sutskever）。（蘇茨克維博士是 Google 在辛頓博士的拍賣中「購買」的研究生之一。）
最初，馬斯克想要將 OpenAI 作為一個非盈利機(jī)構(gòu)運(yùn)營，避免受到像 Google 這樣的公司所驅(qū)動的經(jīng)濟(jì)利益的影響。但是，當(dāng) Google 以其圍棋表演震驚科技界時，馬斯克正在改變他對 OpenAI 應(yīng)如何運(yùn)營的看法。他迫切希望 OpenAI 能發(fā)明出一些能夠吸引全世界的想象力，并拉近他們和 Google 距離的東西，但作為一個非盈利機(jī)構(gòu)，它并未能完成這項(xiàng)工作。
在 2017 年底，他策劃了一個計(jì)劃，試圖從奧特曼和其他創(chuàng)始人手中奪取實(shí)驗(yàn)室的控制權(quán)，將其轉(zhuǎn)變?yōu)橐粋€商業(yè)運(yùn)營，與特斯拉聯(lián)手，并依賴該汽車公司正在開發(fā)的超級計(jì)算機(jī)的公司，據(jù)四個熟悉此事的人士透露。
當(dāng)奧特曼和其他人反對時，馬斯克選擇退出，并表示他將專注于在特斯拉的自己的人工智能工作。2018 年 2 月，他在一家改建的卡車工廠的創(chuàng)業(yè)公司辦公室的頂樓，向 OpenAI 的員工宣布了他的離職，參加會議的三個人說。當(dāng)他說 OpenAI 需要更快地行動時，一位研究員在會議上反駁說馬斯克先生的行為是魯莽的。
馬斯克罵那個研究員是「笨蛋」，然后怒氣沖沖地離開了，也帶走了他的巨額財(cái)富。
OpenAI 突然急需新的融資。奧特曼飛到了太陽谷（Sun Valley）參加一個會議，并偶遇了微軟的首席執(zhí)行官薩蒂亞·納德拉。兩者的聯(lián)合似乎很自然。奧特曼認(rèn)識微軟的首席技術(shù)官凱文·斯科特（Kevin Scott）。微軟曾從 OpenAI 董事會成員霍夫曼收購了 LinkedIn。納德拉委任斯科特去完成這件事。這筆交易在 2019 年完成。
奧特曼和 OpenAI 在原有的非營利組織下成立了一家營利性公司，他們擁有 10 億美元的新資本，而微軟也找到了一種將人工智能融入其龐大的云計(jì)算服務(wù)的新方法。
但不是 OpenAI 里的每個人都為此感到開心。
研究員達(dá)里奧·阿莫迪（Dario Amodei）與有效利他主義社區(qū)有關(guān)，當(dāng) OpenAI 在瑰麗酒店誕生時，他就已經(jīng)在現(xiàn)場。阿莫迪博士在談話時不斷地扭動他的卷發(fā)，他正在領(lǐng)導(dǎo)實(shí)驗(yàn)室建立一個名為大型語言模型的神經(jīng)網(wǎng)絡(luò)，該網(wǎng)絡(luò)可以從大量的數(shù)字文本中學(xué)習(xí)。通過分析無數(shù)的維基百科文章、數(shù)字書籍和留言板，它可以自己生成文本。它也有一個不幸的習(xí)慣，那就是編造事情。它被稱為 GPT-3，于 2020 年夏天發(fā)布。
OpenAI、Google 以及其他公司內(nèi)部的研究人員認(rèn)為，這種迅速改進(jìn)的技術(shù)可能是通向 A.G.I. 的路徑。
但是，阿莫迪博士對微軟的交易感到不滿，因?yàn)樗J(rèn)為這正將 OpenAI 帶向一個非常商業(yè)化的方向。據(jù)了解此事的五個人表示，他和其他研究人員曾試圖向董事會施壓，希望趕走奧特曼先生。但他們失敗了，于是離開了。就像之前的 DeepMind 創(chuàng)始人一樣，他們擔(dān)心他們的新公司老板會將商業(yè)利益置于安全之上。
Daniela Amodei 和 Dario Amodei 聯(lián)合創(chuàng)立了 Anthropic
在 2021 年，大約 15 名工程師和科學(xué)家創(chuàng)建了一個名為 Anthropic 的新實(shí)驗(yàn)室。他們的計(jì)劃是按照有效利他主義者認(rèn)為應(yīng)該的方式來構(gòu)建人工智能——即采用非常嚴(yán)格的控制。
「Anthropic 的聯(lián)合創(chuàng)始人并沒有試圖將薩姆·奧特曼從 OpenAI 中移除，」Anthropic 的發(fā)言人 Sally Aldous 說。「聯(lián)合創(chuàng)始人自己得出了他們希望離開 OpenAI 去創(chuàng)立自己的公司的結(jié)論，他們向 OpenAI 的領(lǐng)導(dǎo)層表明了這一點(diǎn)，并在幾周內(nèi)以雙方都能接受的條件協(xié)商了退出。」
Anthropic 接受了來自亞馬遜的 40 億美元投資，兩年后又從 Google 那里獲得了 20 億美元的投資。
揭示
當(dāng) OpenAI 從微軟那里獲得了額外 20 億美元的投資后，奧特曼和另一位高管格雷格·布萊克曼（Greg Brockman）前往比爾·蓋茨位于華盛頓湖畔，西雅圖郊外的豪宅。盡管這位微軟創(chuàng)始人已經(jīng)不再參與公司的日常運(yùn)營，但他仍然與公司的高管保持著定期的聯(lián)系。
在晚餐時，蓋茨告訴他們，他不確定大型語言模型能否奏效。他表示，除非這項(xiàng)技術(shù)能完成需要批判性思考的任務(wù) —— 例如通大學(xué)先修課程里的生物學(xué)考試，否則他將保持懷疑態(tài)度。
五個月后，也就是 2022 年 8 月 24 日，奧特曼和布羅克曼回來了，并帶來了一位名叫切爾西·沃斯（Chelsea Voss）的 OpenAI 研究員。沃斯女士在高中時曾是國際生物奧林匹克競賽得獎?wù)摺＜{德拉先生和其他微軟高管也在場。
在蓋茨的客廳外的一個大型數(shù)字顯示器上，OpenAI 團(tuán)隊(duì)展示了一項(xiàng)名為 GPT-4 的技術(shù)。
布洛克曼先生讓這個系統(tǒng)做了一次高級生物學(xué)考試的多選題，沃斯女士對答案進(jìn)行了評分。第一個問題涉及到極性分子，這是一種原子群，一端帶正電，另一端帶負(fù)電。系統(tǒng)正確地回答了問題，并解釋了它的選擇。「我們只訓(xùn)練了它提供答案，」布洛克曼先生說。「對話的特性卻神奇地顯現(xiàn)了出來。」換句話說，它正在做他們并沒有真正設(shè)計(jì)它去做的事情。
60個問題里，GPT-4 只答錯了一個。
蓋茨先生坐直了身子，眼睛睜得大大的。1980 年，當(dāng)研究人員向他展示了成為現(xiàn)代個人電腦基礎(chǔ)的圖形用戶界面時，他有過類似的反應(yīng)。他認(rèn)為 GPT 具有那樣的革命性。
到十月份，微軟已經(jīng)在其在線服務(wù)中，包括其必應(yīng)搜索引擎中，添加了這項(xiàng)技術(shù)。兩個月后，OpenAI 發(fā)布了其 ChatGPT 聊天機(jī)器人，現(xiàn)在每周有 1 億人使用。
OpenAI 已經(jīng)打敗了 Anthropic 的有效利他主義者。佩奇在 Google 的樂觀派趕忙發(fā)布了他們自己的聊天機(jī)器人 Bard，但被廣泛認(rèn)為在與 OpenAI 的競賽中輸了。在 ChatGPT 發(fā)布三個月后，Google 的股票下跌了 11%。馬斯克先生則無處可尋。
但這一切，只是開始。
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個人看法，不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn)，讀者在采取與本文內(nèi)容相關(guān)的任何行動之前，請務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
