新火種
2023-12-07 
LLaMA開源背后：一場永遠改變硅谷的AI軍備內幕
機器之能報道
編輯：Sia
OpenAI 內部的戲劇性事件讓世界第一次看到了那些將決定AI未來人的激烈爭斗。事實上，在此之前，硅谷已經發生了一場鮮為人知但激烈的競爭，旨在爭奪這項技術的控制權。《紐約時報》采訪了80多位高管、科學家和企業家，《紐約客》采訪了微軟和OpenAI兩家 CTO，分別從不同角度講述了一個關于野心、恐懼和金錢的幕后故事。
在 OpenAI 于 2022 年 11 月推出 ChatGPT 的六周后，Ｍeta 首席 AI 科學家Yann LeCun 從紐約飛往硅谷參加 Meta 的例行管理會議。
在總部一家咖啡館排隊等午餐時，LeCun 向 CEO 扎克伯格發出了警告。他說，OpenAI 的 ChatGPT 可能會給公司帶來麻煩——他需要在為時已晚之前迅速采取行動。《紐約時報》報道稱，這位科學家告訴扎克伯格，Meta 需要趕上 OpenAI 的技術 ，采取行動發布自己的 AI 助手。不然，Facebook 和 Instagram 可能會被滅掉，AI 是未來。LeCun 警告說。當時，扎克伯格沒多說什么，但他在聽。扎克伯格花了一整年的時間圍繞元宇宙重新定位公司，專注于虛擬現實和增強現實。現在，ChatGPT 需要他的注意。但就在此之前，無論是 Meta 8 月推出的 BlenderBot ３還是 ChatGPT 發布前兩周推出的 Galactica——一個經過 1200 億個參數訓練的 AI 科研助手，結果都「撲」了。特別是 Galactica，僅上線三天就迫于激烈爭議下線。「Galactica 演示暫時下線。不再可能通過隨意濫用它來獲得一些樂趣。開心了？」當時， LeCun 頗為不平。
BlenderBot 3 幾乎可以談論任何話題，它會說特朗普仍然是總統，還告訴一位用戶，扎克伯格「令人毛骨悚然」。報道稱，扎克伯格沒有回應，但 LeCun 的話讓他感到惱火。畢竟，扎克伯格希望 Meta 成為一家領先的 AI 公司，而 Meta 已經在 Facebook、Instagram 和 WhatsApp 等應用程序中部署了 AI 功能。到了晚上，扎克伯格似乎改變了主意。「我一直在想你說的話，」一位知情人士告訴《紐約時報》，扎克伯格在當晚的一個晚宴上告訴 LeCun。「我認為你是對的。」
在巴黎，LeCun 團隊已經開發了一個大型語言模型 Genesis，他們希望將其作為開源技術發布，也幾乎準備好了。據五名知情人士告訴《紐約時報》，當他們尋求發布許可時，Meta 的法律和政策團隊出于安全考慮做了一些抵制。開源可能會將強大的技術交到那些不懷好意的人手中，而 Meta 將承擔責任。難道每個人都忘記了 Facebook 過去七年的歷史嗎？平臺上的仇恨言論和錯誤信息曾引發軒然大波，致使公司在 2016 年大選后遭受了新聞媒體和國會的審查。報道稱，Meta 首席法務官 Jennifer Newstead 告訴扎克伯格，他們已經被盯得很緊了，開源可能會引起監管機構的注意。但扎克伯格還是決定盡快發布該自己的開源模型。2 月，Meta 已將 LeCun 團隊構建的大型語言模型 Genesis 更名為 LLaMA（即「大型語言模型 Meta AI」的縮寫），并發布給公司外部的 4,000 名研究人員。很快，Meta 收到了超過 100,000 個訪問代碼的請求。
ChatGPT 發布后，Meta 發生的故事也在其他巨頭身上上演。《紐約時報》對 80 多位高管和研究人員進行了采訪，結合公司文件和錄音，他們發現，ChatGPT 一經發布，曾因聊天機器人引發混亂而放慢步伐的那種擔憂，現在不重要了。雖然對安全性的擔憂并沒有被忽視，但它們被暫時擱置一旁，成為第一、最大或最富有——或者三者兼而有之——的本能占據了上風。12 個月的時間，硅谷發生了翻天覆地的變化，巨頭們迅速扭轉了路線。「速度比以往任何時候都更加重要，」微軟高管 Sam Schillace 在給員工的一封信中寫道。他補充說，「此時此刻，擔心以后可以解決的事情絕對是一個致命的錯誤。」過去二十年里，微軟試圖通過在內部 AI 項目上花費數億美元來與谷歌競爭，但收效甚微。十幾年前，微軟第一次嘗試將 AI 帶給大眾時（還記得 Office 的曲別針助手嗎？）就遭遇了令人尷尬的失敗，被視為「計算史上最嚴重的軟件設計錯誤之一」。2007 年，微軟殺死了 Clippy。九年后，微軟又因為聊天機器人 Tay 的不當言論深陷一場公關災難。「每個人都認為 AI 是一場數據游戲，谷歌擁有更多的數據，而我們處于一個巨大的劣勢，我們永遠無法彌補。」一位前高管告訴《紐約客》記者，這本雜志近期一篇長文詳細披露了微軟與 OpenAI 合作的內幕。高管們開始相信，像微軟這樣笨拙的公司——擁有超過二十萬名員工和龐大的官僚機構——無法滿足 AI 發展所需的靈活性和驅動力。《紐約客》報道稱，微軟 CTO Kevin Scott 開始向外關注各種創業公司，OpenAI 脫穎而出。兩者文化的深刻差異深深吸引了他—— OpenAI 年輕而快速，不受傳統觀念的束縛，他們意圖「將精力集中在最具影響力的事情上。」文章罕見提到，Kevin Scott 特別重視與 OpenAI CTO Mira Murati 的關系。和 Scott 小時候一樣，Mira Murati 從小就很窮，出生在阿爾巴尼亞的她是為數不多愿意繞過彈坑去上學的孩子。Kevin Scott 說，同意投資的一個原因是他「從未見過米拉慌張。」Mira Murati 稱自己是一個樂觀主義者，也是一個現實主義者。「有時人們會誤解樂觀主義，比如粗心的理想主義。但它必須經過深思熟慮，并設置好護欄——否則，你就會冒巨大風險。」
OpenAI CTO Mira Murati 認為自己既是樂觀主義者又是現實主義者。微軟相信，如果他們能夠用 OpenAI 技術強化微軟的產品，并利用這家初創公司的才能和雄心壯志，他們將在 AI 競賽中占據顯著優勢。微軟慢慢開始嘗試把玩這家初創公司的代碼。首先是 GitHub，一些工程師團隊開始嘗試使用 OpenAI 的技術來幫助他們編寫代碼。在 ChatGPT 發布之前，納德拉和蓋茨就已經看到 GPT-4 的演示。當時，納德拉說了一句「天哪，這個東西。」蓋茨從椅子上坐了起來，睜大眼睛。當年研究人員向他展示奠定個人電腦基礎的圖形用戶界面時，他也有過類似反應。后來，微軟計劃將其投資增加到 100 億美元。ChatGPT 發布后，2 月，也就是 Meta 發布 LLaMA 的同月，微軟高調推出由 ChatGPT 驅動的新版必應搜索引擎。
頗有戲劇性的是，就在微軟發布新版搜索之前，谷歌搶先宣布將推出名為 Bard 的 AI 聊天機器人，與 ChatGPT 展開直接競爭，并計劃首先向「值得信賴的測試人員」開放。據《紐約時報》稱，大約圣誕節前谷歌 CEO Sundar Pichai 已決定立即準備一系列基于 AI 的產品。Pichai 清楚 ChatGPT 的缺陷——弄錯內容，有時還會有偏見。令他驚訝的是，OpenAI 無論如何都發布了它，而且消費者喜歡它。如果 OpenAI 能做到這一點，為什么谷歌不能呢？他向谷歌首席法律顧問 Kent Walker 求助。后者知道，自己要做的就是說服高級技術審查委員會( Advanced Technology Review Council )拋棄慣常的謹慎態度，按照新的命令（ edict ）行事。而這種情形在谷歌并不經常發生。最后，他們在商業前途和安全風險之間達成妥協——會限制推廣，會避免將任何東西稱為產品。對于谷歌來說，這將是一次實驗。這樣一來，它就不必是完美的。這與 ChatGPT 的發布「策略」何其相似——所謂「低調的研究預覽」，選擇發布一個較舊的、功能較弱的技術版本，再觀察公眾的反應。「我們計劃將其（發布ChatGPT——譯者注）視為研究發布，」OpenAI CTO Mira Murati 曾在 Slack 上告訴員工。「這降低了各個方面的風險，同時讓我們學到了很多東西。」當然，他們也確實沒有料到 ChatGPT發布后會立刻「起飛」。（ Greg Brockman 預測相關推文點贊量可能也就 5K ）。
接下來，故事的走勢都差不多，都遇到了一些麻煩，可謂喜憂參半。LLaMA 發布一周之后，日本論壇 4chan（類似國內貼吧）突然出現 LLaMA 源代碼種子文件，下載量很快超越千次。這次泄密事件再度引發對安全問題的憂慮，也在一定程度上促使兩位州參議員在接下來的幾個月里寫信給 Meta，聲稱，該公司在發布 LLaMA 之前「未能進行任何有意義的風險評估」，并使該模型容易受到不良行為者的攻擊。微軟的新版 Bing 搜索引擎被指責吐出令人不安的回應。而谷歌匆忙的公告變成了一種尷尬—— Bard 出師不利，在回答與詹姆斯·韋布太空望遠鏡有關問題時犯下事實性錯誤。但這些遠不足以讓任何一方放慢腳步。Meta 繼續追求新的 AI 工具，在 7 月發布了迭代的 Llama 2。9 月，又推出了最新一代的 Ray-Ban Meta 智能眼鏡，以及數十個扮演帕里斯·希爾頓和 Snoop Dogg 等名人角色的 AI 聊天機器人。谷歌在４月集中火力，合并了 Google Brain 和 DeepMind，由 DeepMind 創始人Demis Hassabis 領導，負責名為 Gemini 系統的開發。過去很長一段時間，Hassabis 都在大聲警告 AI 可能會毀滅人類，也越來越擔心谷歌會用 DeepMind 的發明做什么。2017 年，DeepMind 試圖脫離谷歌，但在谷歌提高創始人及其員工的工資和股票獎勵待遇后，脫離的努力就此做罷。《紐約時報》報道稱，道德委員會從未召開過第二次會議。現在，Hassabis 將負責帶領谷歌走向 AI 霸主的地位。與此同時，谷歌也大手筆投資對手的對手——從 OpenAI 出走的核心技術人員 Dario Amodei 創立的 Anthropic。Dario Amodei對 OpenAI 與微軟的交易并不滿意，擔心未來會偏袒商業利益而不是安全。《紐約時報》稱，他和其他研究人員前往董事會，試圖將 Altman 趕下臺。失敗后就離開了。
另一位一氣之下離開 OpenAI 的億萬富翁 Elon Musk 發誓要創建自己的 AI 公司。他稱它為 x.AI。超級 drama 的是，四位知情人士告訴《紐約時報》，受 AlphaGO 巨大成功的刺激，為了縮小與谷歌的差距，馬斯克曾于 2017 年底計劃從 Altman 等創始人手中奪取控制權，將其轉變為商業運營，與特斯拉聯手，背靠這家汽車公司正在開發的超級計算機。遭到 Altman 和其他人異議后，馬斯克辭職。他說，OpenAI 需要加快行動，一位研究人員在會上反駁說，馬斯克很魯莽。馬斯克稱這名研究人員為「混蛋」，然后帶著他的錢袋子沖了出去。11月，x.AI 推出了一款名為 Grok 的聊天機器人，并使用 X 社交網絡的數據進行訓練。目前， x.AI 被曝正在尋求 10 億美元融資。至于微軟，報道稱，為了保持領先，納德拉在 2023 年春季購買了超過 20 億美元的芯片。「我們有一個大訂單要來找你，一個非常大的訂單。」納德拉興高采烈地對黃仁勛說。看來，過往一年僅僅是更大詩篇開了個頭兒。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
