上觀新聞
2023-11-21 
在OpenAI“宮斗”中這位美國(guó)女學(xué)者投下重要一票
最近，開放人工智能研究中心（OpenAI）首席執(zhí)行官薩姆·奧爾特曼被解職一事，成為全球關(guān)注的科技新聞。這位因ChatGPT而聲名鵲起的人物，為何遭遇“宮斗”被迫離開OpenAI、轉(zhuǎn)投微軟公司？媒體上、網(wǎng)絡(luò)上一時(shí)眾說紛紜。
解放日?qǐng)?bào)·上觀新聞?dòng)浾呔痛瞬稍L了上海市科學(xué)學(xué)研究所李輝研究員。在他看來(lái)，奧爾特曼解雇事件的原因與人工智能治理有關(guān)，對(duì)于如何發(fā)展人工智能有不同認(rèn)識(shí)，是OpenAI董事會(huì)內(nèi)部矛盾爆發(fā)的主要因素。
4∶2董事會(huì)投票中有學(xué)者一票
李輝介紹，上海市科學(xué)學(xué)研究所2020年發(fā)布的《2019全球人工智能治理年度觀察》刊登了喬治城大學(xué)安全與新興技術(shù)中心戰(zhàn)略主任童海琳（Helen Toner）對(duì)人工智能治理問題的看法。2021年9月，她被任命為OpenAI董事會(huì)成員。
《2019全球人工智能治理年度觀察》上的童海琳簡(jiǎn)介
在此次董事會(huì)“宮斗”中，奧爾特曼被投票“出局”，董事會(huì)主席格雷格·布羅克曼也緊跟著辭職。OpenAI董事會(huì)共有6名成員，業(yè)內(nèi)人士透露，董事會(huì)上周以4∶2票數(shù)作出重大決定。投贊成票的4人是：OpenAI首席科學(xué)家伊爾亞·蘇茨克維，以及3位來(lái)自公司外部的獨(dú)立董事——產(chǎn)業(yè)界的亞當(dāng)·迪安杰羅、塔莎·麥考利和學(xué)術(shù)界的童海琳。“可以說，這位美國(guó)女學(xué)者投下了重要一票。”
從童海琳為《2019全球人工智能治理年度觀察》撰寫的文章就可看出，她對(duì)OpenAI的GPT發(fā)布持審慎態(tài)度，關(guān)注發(fā)表規(guī)范及其社會(huì)影響：“對(duì)我來(lái)說，2019年最引人注目的人工智能治理討論是關(guān)于負(fù)責(zé)任發(fā)表規(guī)范的討論。這種討論是由OpenAI推遲發(fā)布GPT-2的決策引出的。GPT-2是一種經(jīng)過訓(xùn)練的語(yǔ)言模型，旨在預(yù)測(cè)文本中的下一個(gè)單詞。”當(dāng)時(shí)，GPT-2還沒有火出圈，但已經(jīng)展現(xiàn)出頗為強(qiáng)大的能力，能夠以各種風(fēng)格生成多個(gè)相當(dāng)連貫的文字段落。
讓童海琳贊賞的是：“OpenAI的聲明比GPT-2在語(yǔ)言生成方面的表現(xiàn)更引人注目：OpenAI表示不會(huì)發(fā)布完整的模型。其理由是：GPT-2可能被用于‘大規(guī)模生成欺騙性的、有偏見的或侮辱性的語(yǔ)言’，OpenAI希望借此機(jī)會(huì)促進(jìn)機(jī)器學(xué)習(xí)界關(guān)于負(fù)責(zé)任發(fā)表規(guī)范的討論。”
李輝分析，這位學(xué)者探討的GPT系列大模型發(fā)表規(guī)范，屬于人工智能安全和倫理問題。隨著大模型的問世和商用，它引起了越來(lái)越多政府官員、學(xué)者和企業(yè)家的關(guān)注。在技術(shù)研發(fā)和設(shè)計(jì)商業(yè)模式的同時(shí)，如何確保企業(yè)產(chǎn)品和產(chǎn)業(yè)生態(tài)安全，成為擺在全人類面前的一個(gè)問題。
《2019全球人工智能治理年度觀察》刊登的童海琳文章
這一事件在向馬斯克“致敬”？
近日舉行的OpenAI首次開發(fā)者大會(huì)顯示，奧爾特曼在大模型商業(yè)化方面采取了比較激進(jìn)的戰(zhàn)略——除了發(fā)布大模型GPT-4 Turbo，他還宣布將在今年11月底推出GPT應(yīng)用商店，支持用戶用自然語(yǔ)言定制自己的GPT，上傳到GPT應(yīng)用商店后即可獲得收入分成。
從奧爾特曼解職事件可推測(cè)，這場(chǎng)開發(fā)者大會(huì)激怒了多名OpenAI董事會(huì)成員。OpenAI上周五發(fā)布的博客稱：“奧爾特曼先生在與董事會(huì)的溝通中始終不坦誠(chéng)，阻礙了董事會(huì)履行職責(zé)的能力。董事會(huì)不再對(duì)他繼續(xù)領(lǐng)導(dǎo)OpenAI的能力充滿信心。”
“其實(shí)，‘兩條路線’的斗爭(zhēng)早在馬斯克退出OpenAI董事會(huì)時(shí)就開始了。”李輝告訴記者，2019年，原本定位是非營(yíng)利組織的OpenAI發(fā)生重大轉(zhuǎn)型，成為一家“營(yíng)利性和非營(yíng)利性共存”的公司，這次轉(zhuǎn)型之前，作為OpenAI發(fā)起人之一的埃隆·馬斯克已退出董事會(huì)。今年3月，馬斯克還在社交媒體上吐槽這家企業(yè)：“我仍然很困惑，當(dāng)初我捐贈(zèng)了約1億美元的非營(yíng)利組織，現(xiàn)在怎么變成了一家市值300億美元的營(yíng)利性公司？”
正因?yàn)檫@段恩怨，網(wǎng)絡(luò)上有人稱：奧爾特曼被董事會(huì)踢出，是在向馬斯克致敬。李輝告訴記者，在GPT發(fā)展中，與他交流過的OpenAI治理團(tuán)隊(duì)人員相繼離職，似乎也是“路線斗爭(zhēng)”的一種反映。
事實(shí)上，圍繞人工智能商業(yè)優(yōu)先、還是安全優(yōu)先的“路線斗爭(zhēng)”不只在OpenAI公司內(nèi)部上演。今年3月，生命未來(lái)研究所發(fā)布、馬斯克等人簽名的《暫停大型人工智能研究》公開信就體現(xiàn)了“安全優(yōu)先派”的呼聲：所有人工智能實(shí)驗(yàn)室立即暫停訓(xùn)練比GPT-4更強(qiáng)大的人工智能系統(tǒng)，暫停時(shí)間至少6個(gè)月，以防范人工智能讓人類失去文明控制的風(fēng)險(xiǎn)。
“當(dāng)人工智能系統(tǒng)在執(zhí)行一般任務(wù)上變得具有人類競(jìng)爭(zhēng)力時(shí)，我們必須問自己：應(yīng)該讓機(jī)器用宣傳和謊言淹沒我們的信息渠道嗎？應(yīng)該實(shí)現(xiàn)所有工作的自動(dòng)化，包括令人滿意的工作嗎？應(yīng)該開發(fā)出非人類的思想，讓它們最終可能在數(shù)量上超過我們，比我們聰明，甚至取代我們？應(yīng)該冒著失去文明控制的風(fēng)險(xiǎn)嗎？”《暫停大型人工智能研究》犀利發(fā)問。
在李輝看來(lái)，公開信中列舉的人工智能風(fēng)險(xiǎn)確實(shí)存在，隨著ChatGPT和GPT-4問世，通用人工智能（AGI）可能已近在眼前。所謂通用人工智能，就是人工智能像人一樣可以做很多事，不再局限于某些特定任務(wù)。這類AGI系統(tǒng)投入商用后，有可能成為一些人作惡的工具。
“所以通過奧爾特曼解職事件，我們不但要看‘宮斗戲’，還要思考背后的人工智能治理問題。”李輝說，“這場(chǎng)‘宮斗’是人工智能治理這個(gè)關(guān)乎全人類的時(shí)代命題在精英公司的沖擊性展示。能否在商業(yè)和安全兩者之間找到一個(gè)科學(xué)合理的平衡點(diǎn)，是對(duì)人類智慧的一次考驗(yàn)。”
（文章來(lái)源：上觀新聞）
Tags:
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個(gè)人看法，不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對(duì)本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn)，讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前，請(qǐng)務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對(duì)因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
