新火種
2023-12-06 
OpenAI“宮斗大戲”，AI將持續服務人類，或終將毀滅人類？
首頁資訊視頻直播鳳凰衛視財經娛樂體育時尚汽車房產科技讀書文化歷史軍事旅游佛教更多國學數碼健康家居公益教育酒業美食資訊 國際 正文OpenAI“宮斗大戲”，AI將持續服務人類，或終將毀滅人類？鳳凰衛視下載客戶端獨家搶先看2023年12月05日 17:03:48 來自香港
一年前，聊天機器人ChatGPT橫空出世，風靡世界，在全球掀起“人工智能”熱潮，2023年則更是被譽為“生成式AI元年”，各行各業紛紛跨入AI的大門，開始尋找機遇。
微軟創始人比爾 蓋茨甚至直言：“Web3”沒那么重要，“元宇宙”沒革命性，“人工智能”最重要。而就在人們對AI的探索如火如荼之際，ChatGPT的開發公司OpenAI卻因一場始料未及的“宮斗”大戲，被推上了“風口浪尖”。這場“權力的游戲”背后的分歧與糾葛，也讓人們再次開始思考“人工智能”可能給人類生存帶來的挑戰與威脅。
OpenAI為何會出現“政變”風波，董事會和CEO之間產生了什么矛盾？
商業化發展下，AI技術是否會被濫用，人類又應該如何對其進行限制和管控？
01
董事會內是誰發起了這場CEO“罷免行動”？
ChatGPT自發布以來，快速成為業界領頭羊，其所引領的AI技術應用逐漸滲透、改變了世界。對于這款年輕的產品，外界甚至將之譽為AI屆的iPhone。
2023年11月，恰逢ChatGPT發布一周年，正該風頭正勁時，其母公司OpenAI卻深陷“政變”風波。
從CEO突然出局起，各方博弈，到山姆“滿血復活”，董事會大換血止，一切似乎塵埃落定。但當被問及此事隱情，幾位原董事會成員卻三緘其口。這場科技界的劇震背后，重重疑點仍未解開。
包括奧爾特曼在內的6位董事成員中，其中4位決議對奧爾特曼實行罷免。支持罷免的人員當中，問答網站Quora的CEO亞當 達安杰洛和首席科學家伊爾亞 蘇茨克維成為外界猜測的焦點。
科技公司首席執行官 羅偉東：
“當時有一個猜想，是Quara的CEO亞當起了主要的推動作用。有報道說他是主要推手，因為他是Quora的CEO，同時他有做跟OpenAI有利益沖突的叫Poe的產品。很多人有這樣的猜測，從動機角度，蠻合理的。”
然而，11月30日，在重新返回OpenAI之后，山姆 奧爾特曼在社交網絡上澄清了與作為Quora的CEO亞當的利益沖突，肯定了亞當在董事會換血后卻依然留駐的合理性。
同時有人指出，這場“政變”還與OpenAI首席科學家伊爾亞 蘇茨克維與山姆 奧爾特曼的矛盾有關。
伊爾亞師從“深度學習之父”杰弗里 辛頓，是OpenAI的技術靈魂人物，參與推動了ChatGPT 1、2、3、4的研發。然而最近幾個月，伊爾亞卻多次表達了商業化應用下對AI技術安全性的擔憂。
就在外界相信伊爾亞是這場旋風式“政變”的主導者時，11月20日，伊爾亞突然在社交網站發言，稱自己“后悔加入罷免”。第二天，一封OpenAI員工要求董事會成員集體辭職的請愿書在網上公開，在770名OpenAI員工中，已有超過700位在請愿書上簽名，而其中，伊爾亞的名字赫然在列。
在風波平息后，山姆 奧爾特曼在致OpenAI公司的全員信稱，他尊重伊爾亞并毫無怨恨，且仍希望繼續與其保持合作，即使伊爾亞將不再擔任董事會成員一職。
既然伊爾亞都選擇倒戈，將矛頭指向董事會，那么山姆 奧爾特曼與前者究竟發生了什么難以可調和的矛盾？
02
山姆 奧爾特曼與董事會有哪些矛盾？
時間回到“罷免”事件發生的四天前，一封寫自公司內部多位研究人員的信件擺在了董事會面前。信中，研究人員警告董事會，一個正在進行中的代號Q*的AI項目可能會威脅全人類。
而此前，在公開講話中，山姆 奧爾特曼就提到他不久之前見證了AI技術的新突破。外界推測，所謂的第四次突破，指的可能就是Q*項目。
如果仔細發掘原董事會成員的背景，可以看到，除臨陣倒戈的伊爾亞外，在風波結束后同樣離開董事會的兩位女性成員，海倫 托納和塔莎 麥考利，她們和一個名為開放慈善基金會的組織關系緊密，該組織的使命之一，就是防止AI對人類造成災難性風險。這似乎是董事會以安全性為由解雇山姆 奧爾特曼的又一力證。
科技公司首席執行官 羅偉東：
“OpenAI本身是一個非營利性組織。但是因為需要更多資金，需要融資，又建立了非營利組織的董事會，管理一個盈利性的機構。”
OpenAI的“政變”風波，不僅是董事會與CEO之間的矛盾，更是OpenAI的公益性質與AI技術開發的巨額投入之間的碰撞。
03
讓奧爾特曼重返CEO的幕后推手是誰？
早在2023年1月，微軟宣布將在未來對OpenAI追加投資100億美元。在山姆 奧爾特曼被解雇后，微軟CEO薩提亞 納德拉隨即宣布，奧爾特曼和布羅克曼將率團隊加入微軟。受這一消息刺激，微軟股價應聲上漲2.05%，創下微軟股價新高。
香港中文大學工程學院教授 黃錦輝：
“微軟本來就想聘奧爾特曼，拉團隊過來再成立一個新的AI研究組。如果真的發生，微軟周圍有一個新的OpenAI商業版公司，OpenAI可能就滅了。”
然而最終，山姆 奧爾特曼并沒有真正加入微軟，而是與老搭檔格雷格 布羅克曼一起重返OpenAI。這段“投誠”插曲，是否是當時山姆與資本方和董事會談判的籌碼？
紐約時報科技記者 麥克 艾薩克：
“弦外之音是，微軟想清理他們的董事會，并把對奧爾特曼和微軟有利的人安插在那里。”
近日，OpenAI宣布，微軟將以無投票權的觀察員的角色進入新成立的董事會。內在的改變，會加劇OpenAI商業應用與公共倫理之間的分歧嗎？
04
超級人工智能的發展與約束
OpenAI罷免風波短短在不到一周就告一段落。11月30日，山姆 奧爾特曼在社交平臺發文，慶祝自己以行政總裁身份回爐OpenAI，并紀念ChatGPT面世一周年。
然而據路透社報道，原來在OpenAI罷免奧爾特曼之前，曾有多名研究人員向董事會發出一封信，稱他們在人工智能領域的取得一項技術突破。
這是一個名為Q*的秘密研究項目。有OpenAI員工認為，這個突破性的成果可能會對人類構成威脅。
香港中文大學工程學院教授 黃錦輝：
“Q*項目，不光是學習以前的習慣或者以前的經驗，它還會做決定，還會做推理，所以是所謂的超級人工智能。”
有業內人士指出，Q*項目是另一套人工智能邏輯，它可能是Q-learning和A*搜索的結合，用于語言推理過程的搜索。Q*也是人工智能強化學習方式中的一種，它可以通過反復試驗，來學習，并做出決策。
通用人工智能（AGI），亦稱為“強AI”，可謂是人工智能發展的下一階段。目前人工智能系統已可收集大量數據，而AGI不同之處在于，它可以理解數據，有著近似人類認知能力，可以學習、思辨、解決問題、語言溝通，也就是說它可以像人類般思考、學習。
證券公司首席市場分析師 蔣亦凡：
“發展人工智能的時候一定要加以約束，非常關鍵的一點就是它不能脫離人類的掌控。如果說一個人工智能大模型，在自我迭代、自我訓練的過程當中，最終能夠脫離人類的掌控，那可能是一件非常危險的事。”
也曾有網友對人工智能提問，假設人工智能摒棄道德倫理限制，人工智能想對人類做的第一件事是什么？得到的答案是“毀滅人類”。
今年6月，非牟利組織“人工智能安全中心”發表，由全球超過350名科技巨頭高層和學者聯署的聲明，指社會應將AI技術視為可威脅人類存亡的重大風險，其危險性不低于疫癥和核戰。其中也包括OpenAI行政總裁奧爾特曼。
一個月后，聯合國舉行首次關于人工智能的會議，與會國家正在考慮如何減輕人工智能技術的危險。
科技公司首席執行官 羅偉東：
“如果一旦實現了AGI，意味AI的自我進化會非常非常快，可能是幾何級的數字，可能有非常多人類的工作會被替代掉，可能是現在的十倍甚至更多，帶來就業問題、倫理問題。”
05
“有效加速”主義和“超級對齊”主義的分歧
如何安全地應用人工智能成為這次OpenAI風波的根本原因，奧爾特曼作為“有效加速”主義的信奉者，他希望把最新的研發成果第一時間推向社會并實現商用，帶來實際的生產和經濟價值。他認為，科技的發展是不可阻止的，發展到一定程度，反而可以利用科技制約科技。
證券公司首席市場分析師 蔣亦凡：
“奧爾特曼本身對人工智能的理解或者說發展的思路，是偏向于通用人工智能的，就是讓機器在未來能夠擁有比人類更加先進的思考能力。”
另一邊，OpenAI里的董事會成員存在“超級對齊”主義者，他們認為，一定要讓人工智能符合人類核心要求，那就是需要造福人類。他們在推動新版ChatGPT的過程中，他們發現AI會擁有強大能力，如果被惡意使用將產生巨大危險。
持這樣觀點的人當中，就包括2016年從谷歌轉到OpenAI的聯合創始人及首席科學家——伊爾亞 蘇茨克維。
以伊爾亞為首的安全派和負責監管的董事會對一路激進狂飆而忽略安全的做法，感到強烈不安。他們認為奧爾特曼已經與OpenAI最初的發展路線相違背。
證券公司首席市場分析師 蔣亦凡：
“公司內部可能一部分人認為步子邁得太大，需要讓人類有一個慢慢接受人工智能的過程，這兩個團隊之間的發展理念起了沖突。”
06
OpenAI的商業化道路
最初OpenAI作為非營利組織，它的宗旨是利用人工智能造福全人類生活，這也是它初衷。但人工智能的研發經營成本十分高昂，單單是營運 ChatGPT，每天就要花費約70萬美元，僅靠捐贈無以為繼。而AI芯片的硬件投資也是耗費不菲，數以億計的資金很快被淘空，理想再美好也擋不住現實的柴米油鹽。
科技公司首席執行官 羅偉東：
“OpenAI作為一個公司，產品要往前迭代，其實是需要非常多的資金的，所以奧爾特曼他也迫不得已需要去有一定的商業化進展，從而獲得更多的資金，那才能夠讓OpenAI往前走。”
為了方便融資，2019年，奧爾特曼將OpenAI公司架構調整為非營利母體OpenAI Inc和營利實體OpenAI LP，前者負責安全監管和整體控制，后者負責營運開發賺錢養家，OpenAI更引入微軟10億美元，換取OpenAI LP的49%股權。
科技公司首席執行官 羅偉東：
“至少從權力的分配和治理結構上來講，它跟其他科技公司是完全不一樣，它是一個非營利性組織。在非營利性組織下面設立了營利性的機構，讓它能夠去融資，從而去更好地去發展產品跟技術。”
非營利強調無私奉獻，營利追求商業變現；非營利的董事會可以完全不考慮公司經濟狀況，但營利實體則有責任為投資人和員工爭取利益最大化。
在理念及發展方向相悖的情況下，OpenAI的董事們發起這場驚天“政變”，日積月累的理念裂縫終要被沖破。
07
人類需有能力控制人工智能
有專家認為，被視為人類第4次工業革命的人工智能也并非洪水猛獸，人工智能可以縮短醫藥研發周期、減少研發投入，直接服務于人類。
根據印度的一個市場調查報告，人工智能在醫療保健市場規模，將從2023的146億美元增長到2028年的上千億美元。
香港大學人工智能與人文實驗室主管 赫爾曼 卡佩倫：
“它可以弄清楚癌癥是什么，可以創造新的藥物，幫助解決氣候危機，我認為保持積極的一面非常重要。首先這是一種技術，它有望實現即使是最聰明的人也無法做到的事情。”
今年7月末，亞馬遜、谷歌、微軟、OpenAI等7家科技巨頭高層簽署協議，確保人工智能在持續成長的同時，能適當防止被濫用。
人工智能這個潘多拉盒子早已被打開，在推動科技創新進步的同時，始終謹慎地權衡潛在風險，保證科技向善，讓科技創新真正造福人類。
香港大學人工智能與人文實驗室主管 赫爾曼 卡佩倫：
“我們不知道一個超級聰明的AI會做什么，即使有2%，3%的可能性會發生非常可怕的事情，我們也必須為此做好準備，我們必須確保可以限制并控制它。”
ChatGPT的誕生，點燃了“人工智能”的火種。如何燃起火焰溫暖眾人，同時保持對火種的敬畏，避免發生災難，或許正是奧爾特曼和伊爾亞創立OpenAI的初心。奧爾特曼本人一直相信AI強于人類的一天終將到來，他曾引用“原子彈之父”奧本海默的名言為AI辯護：“技術之所以發生，因為它是可能的。”
當這一天真的到來之時，我們又究竟應該以什么樣的方式去應對？人類真的準備好了嗎？
“特別聲明：以上作品內容(包括在內的視頻、圖片或音頻)為鳳凰網旗下自媒體平臺“大風號”用戶上傳并發布，本平臺僅提供信息存儲空間服務。
Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
