新火種
2023-12-05 
解雇導火索：有人告發他開發新型強大AI，恐將威脅人類
【文/觀察者網 熊超然】短短幾天時間，美國開放人工智能研究中心（OpenAI）的一出“宮斗劇”，經歷了“反轉反轉再反轉”的戲劇性變化。最終，在幾乎全體員工以“辭職加入微軟”的逼宮之下，被董事會解雇的薩姆·阿爾特曼（Sam Altman）重新擔任公司首席執行官一事，已經原則上達成協議，有關細節正合作商討中。
就在阿爾特曼重返OpenAI之后，路透社當地時間11月23日援引兩名知情人士報道稱，此前有幾名研究人員曾致信董事會，警告稱一項強大的人工智能成果（名為“Q*”）可能會威脅到人類。消息人士稱，這封此前未被報道的信函和其中提到的人工智能算法，是董事會解雇阿爾特曼的“關鍵導火索”，這封信讓董事會產生了擔憂，并對阿爾特曼產生了諸多不滿，并最終解雇了他。
當地時間11月2日，英國布萊奇利園，首屆人工智能安全峰會舉行，阿爾特曼出席。圖自澎湃影像
知情人士透露，OpenAI的一些人認為，這個取得進展的“Q*”項目（發音為Q- star），可能是該公司在通用人工智能（AGI）領域的一個突破。OpenAI將通用人工智能定義為——在大多數具有經濟價值的任務中超越人類智慧的人工智能系統。
鑒于龐大的計算資源，這一新模型能夠解決某些數學問題。消息人士稱，雖然“Q*”的數學成績還只是小學生的水平，但在這樣的測試中取得優異成績讓研究人員對其未來取得成功非常樂觀。
研究人員認為，數學是生成式人工智能發展的前沿。目前，生成式人工智能通過統計預測下一個單詞，來進行寫作和語言翻譯，而對同一個問題的答案可能會有很大差異。然而，征服數學的能力（只有一個正確答案），意味著人工智能將擁有更強的推理能力，類似于人類。例如，人工智能研究人員認為，這可以應用于新穎的科學研究。
消息人士稱，在給董事會的信中，研究人員指出了人工智能的這種能力和潛在危險，但沒有具體說明信中提到的具體安全問題。長期以來，計算機科學家一直在討論高度智能機器帶來的危險，例如，它們是否會認為毀滅人類符合其利益。
路透社稱，無法查看到這封信的副本，寫這封信的員工和OpenAI公司也沒有回應置評請求。
但一名知情人士透露，在路透社聯系公司后，公司向員工發了一封內部信。信中承認，存在一個名為“Q*”的項目，而在上周末人事變動之前，董事會也確實收到了一封信。不過，OpenAI的發言人僅表示，這封信由OpenAI首席技術官米拉·穆拉蒂（Mira Murati）發出，只是為了讓員工警惕某些媒體報道，并未對信息的準確性發表評論。
隨著ChatGPT的爆火，其背后語言模型——GPT也受到市場廣泛關注。3月15日凌晨，OpenAI正式推出GPT-4。圖自IC Photo
值得注意的是，就在阿爾特曼遭到解雇的前一天，他還在舊金山出席亞太經合組織（APEC）首席執行官峰會，并提到OpenAI最近取得的一項技術進展。“在OpenAI的歷史上，已經有四次了，最近的一次是在過去的幾周里。當我們推開無知的面紗并向前推進發現的前沿時，我已經在房間里了，能夠做到這一點是一生的職業榮譽。”
2015年，阿爾特曼和埃隆·馬斯克（Elon Musk）等人聯合創辦了OpenAI，并得到了微軟等投資者的支持。2020年，OpenAI推出了超大規模語言訓練模型GPT-3，其參數達到1750億，是當時全球最大的AI語言模型。去年11月，在微軟數十億美元的支持下，OpenAI發布了ChatGPT聊天機器人，掀起了生成式人工智能的熱潮，也成為全球增長最快的軟件應用程序之一。
路透社認為，對許多人來說，阿爾特曼是生成式人工智能的代言人，甚至是“ChatGPT之父”，因此他11月17日被董事會解雇的消息在整個科技行業引發了巨大沖擊波。
在阿爾特曼被解雇之后，路透社11月18日曾披露，以科技巨頭微軟為首的投資者向OpenAI董事會施加壓力，要求召回阿爾特曼重新擔任首席執行官。此后，OpenAI董事會成員被曝又與阿爾特曼商討了回歸事宜，但視頻流媒體網站Twitch的聯合創始人埃米特·謝爾（Emmett Shear）最終成為了OpenAI新任首席執行官。
11月20日晚些時候，微軟首席執行官薩蒂亞·納德拉（Satya Nadella）在社交媒體上宣布，阿爾特曼和OpenAI前總裁格雷格·布羅克曼（Greg Brockman，在阿爾特曼被解雇后以辭職作為抗議）將一同加入微軟，并領導一個新的高級人工智能研究團隊。
同日，OpenAI約770名員工中，包括一名董事會成員在內的700多名員工均以“辭職加入微軟”相威脅，要求董事會集體辭職并讓阿爾特曼重新執掌公司。
11月22日，OpenAI在社交平臺X（原推特）發文稱，已經原則上達成協議，讓阿爾特曼重返公司擔任首席執行官，并由董事會主席雷特·泰勒（Bret Taylor）、拉里·薩默斯（Larry Summers）和亞當·德安吉洛（Adam D'Angelo）組建新董事會。至此，OpenAI的這出“宮斗戲”才終于迎來轉機。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
