AI專家和前員工試圖阻止OpenAI轉型為營利性公司
4月23日訊(編輯 牛占林)OpenAI的前員工和多位頂級人工智能(AI)專家致函利福尼亞州和特拉華州的最高執法官員,要求他們阻止OpenAI從非營利組織轉變為營利性公司。
他們擔心,如果ChatGPT的制造商實現了其制造出超越人類表現的AI的雄心壯志,但不再對其公共使命負責,可能會給人類社會造成嚴重傷害。
據悉,OpenAI成立于2015年,據該公司在成立之初發布的一份聲明中稱,OpenAI的宗旨是開發AI技術,“造福全人類,不受創造經濟回報的需求的限制”。成為一家營利性公司對OpenAI來說將是一個翻天覆地的變化。
OpenAI前政策和道德顧問Page Hedley表示:“歸根結底,我擔心的是,一旦這項技術被創造出來,誰擁有和控制它。”
Hedley指出,近年來在ChatGPT成功的鼓舞下,越來越多公司在安全測試上走捷徑,并急于推出新產品,以領先于商業競爭對手。
他補充說:“隨著技術變得越來越強大,這些決策的成本將會不斷增加。我認為,在OpenAI想要的新結構中,可能會讓它更傾向于快速做出決策以獲取利潤,而且將不再有任何人會告訴他們不要這么做,告訴他們這是不可以的。”
在三位諾貝爾獎獲得者和其他倡導者以及行業專家的支持下,Hedley和其他九名前OpenAI員工本周向兩個州的總檢察長發了一封信。他們要求加州總檢察長羅伯·邦塔和特拉華州總檢察長凱西·詹寧斯利用他們的權力保護OpenAI的慈善宗旨,并阻止其計劃中的重組。OpenAI在特拉華州注冊成立,在舊金山運營。
對此,OpenAI回應稱:“對我們現有結構的任何改變,都是為了確保更廣泛的公眾能夠從AI技術中受益。”它表示,它會以公益為目標,而不是單純追求利潤,它會像其他一些負責任的人工智能公司一樣運作,比如Anthropic和科技億萬富翁馬斯克的xAI,并且還會保留一個非營利部門來確保它不會忘記對社會的責任。
這封信件已是他們本月第二次向州政府官員請愿。上一封來自一群勞工領袖和非營利組織,他們專注于保護OpenAI數十億美元的慈善資產。
詹寧斯此前表示,她將“審查任何此類交易,以確保公眾利益得到充分保護”。
目前OpenAI的估值已達到3000億美元,其ChatGPT的每周活躍用戶數量達到了4億。OpenAI已經有了一個以營利為目的的子公司,但在轉變其核心治理結構方面面臨著許多挑戰。
“AI教父”杰弗里·辛頓在周三的一份聲明中表示:“我喜歡OpenAI‘確保人工智能造福全人類’的使命,我希望他們執行這一使命,而不是讓投資者發財,我很高興有人在努力讓OpenAI完成自己的使命。”
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法,不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險,讀者在采取與本文內容相關的任何行動之前,請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。