新火種
2023-12-17 
“年度CEO”奧特曼談被罷黜教訓：OpenAI必須改善治理
·“我們必須做出改變。我們總是說我們不希望AGI（通用人工智能）被一小部分人所控制，我們希望它民主化。而我們顯然沒有走在正確的道路上。所以我認為，如果我們不改善自己的治理結(jié)構(gòu)，如果我們不改善與世界互動的方式，人們就不應該（信任OpenAI）。”
人工智能開發(fā)機構(gòu)OpenAI首席執(zhí)行官山姆·奧特曼（左）12月12日參加《時代》雜志“時代的一年”活動。
人工智能開發(fā)機構(gòu)OpenAI首席執(zhí)行官、被稱為“ChatGPT之父”的山姆·奧特曼（Sam Altman）被美國《時代》雜志評為2023年“年度首席執(zhí)行官”。在12月12日參加《時代》雜志“時代的一年”活動中，奧特曼坦誠地談到了他11月被罷黜和復職、人工智能如何產(chǎn)生虛假信息的威脅以及其未來潛力。
奧特曼表示，他11月中旬突然從OpenAI離職，這對他和整個公司來說都是一次學習經(jīng)歷。“我們總是說這樣的時刻將會到來。”奧特曼說，“我沒想到它會來得這么快，但我認為經(jīng)歷過這一切之后我們變得更強大了。”
奧特曼堅稱，這段經(jīng)歷最終讓公司變得更加強大，并表示OpenAI的成功是團隊努力的結(jié)果。“這對我個人來說是非常痛苦的，但我認為這對OpenAI來說是件好事。我們從未如此團結(jié)。”他說，“隨著我們越來越接近通用人工智能，隨著風險的增加，OpenAI團隊在充滿不確定性和壓力的狀態(tài)下運作的能力應該引起全世界的關(guān)注。”
“我認為，隨著我們越來越接近超級智能，參與其中的每個人都會變得更有壓力和焦慮。”奧特曼表示，從被解雇中他得到的教訓是：“我們必須做出改變。我們總是說我們不希望AGI（通用人工智能）被一小部分人所控制，我們希望它民主化。而我們顯然沒有走在正確的道路上。所以我認為，如果我們不改善自己的治理結(jié)構(gòu)，如果我們不改善與世界互動的方式，人們就不應該（信任OpenAI）。但是，我們非常有動力去改善這一點。”
奧特曼說，這項技術(shù)具有無限的潛力，“我認為通用人工智能將是人類迄今為止發(fā)明的最強大的技術(shù)”，特別是在實現(xiàn)全球信息獲取的民主化方面。“如果你考慮一下情報成本和情報平等，成本下降，質(zhì)量大幅提高，以及人們可以用它做什么。”他說，“這將是一個非常不同的世界。這是科幻小說長期以來向我們承諾的世界，我想我們第一次可以開始看到它會是什么樣子。”
盡管如此，“就像以前任何其他強大的技術(shù)一樣，這將帶來令人難以置信的新事物，但也會有真正的缺點。”奧特曼承認，有些挑戰(zhàn)需要密切關(guān)注。隨著2024年美國大選的臨近，在美國的輿論場中，人工智能將如何影響民主國家成為一個被警惕的問題。
曾經(jīng)社交媒體上流傳的選舉干擾如今看起來可能很簡單，“巨魔農(nóng)場（troll farm，以協(xié)調(diào)一致的方式向社交網(wǎng)絡(luò)發(fā)布挑釁性內(nèi)容——通常為宣傳內(nèi)容——的專業(yè)團體）……創(chuàng)造了一個偉大的模因（meme，通過模仿在人與人之間傳播的思想、行為或風格），然后就會傳播開來。”奧特曼表示，現(xiàn)在人工智能驅(qū)動的虛假信息將變得更加個性化和有說服力。“我認為更令人擔心的是，如果人工智能讀取了你在網(wǎng)上寫過的所有內(nèi)容……然后在特定的時刻，向你發(fā)送一條為你定制的消息，這確實會改變你對世界的看法。”
盡管存在風險，奧特曼依然相信，如果人工智能的部署是安全的，并被負責任地交到人們手中，那么該技術(shù)就有潛力創(chuàng)造一條“讓世界每年都變得更加豐富、更加美好的道路”。
“我認為2023年是我們開始看到這一點的一年，到2024年，我們將看到更多這樣的情況，到這個十年結(jié)束時，我認為世界將駛向更加美好的方向。”不過他同時指出，“沒有人知道接下來會發(fā)生什么。我認為隨著技術(shù)的發(fā)展，預測常常是錯誤的。”
相關(guān)推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內(nèi)容相關(guān)的任何行動之前，請務(wù)必進行充分的盡職調(diào)查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負任何責任。
