新火種
2023-10-24 
AI崛起不可避免，但不該為此擔心害怕
編者按：AI 的能力正在逐漸超出很多人的想象，這引發了大量業內人士的擔憂。很多人呼吁要暫停先進 AI 的研發工作。近期，被譽為“AI 教父”和深度學習三巨頭之一的 Geoffrey Hinton 從谷歌離職，他說此舉是為了能更加公開地談論和警告人們 AI 的威脅性，并稱他對自己畢生從事的 AI 研究感到后悔。但另一位“AI 之父”Jürgen Schmidhuber（譯者注：被譽為“LSTM 之父”，此前就曾與深度學習三巨頭有過紛爭）卻不這么認為。他認為工具是中立的，AI 崛起不可避免，我們應該學會擁抱 AI。文章來自編譯。
Jürgen Schmidhuber
他曾被稱為是“人工智能之父”，現在他已經與許多害怕人工智能軍備競賽的同時代人決裂，他說即將到來的事情不可避免，我們應該學會擁抱它。
1990 年代，Jürgen Schmidhuber 教授開展了神經網絡的研究，后來他在這方面的工作被發展成語言處理模型，這些模型之后又被用于谷歌翻譯以及蘋果 Siri 等技術。2016 年，《紐約時報》曾表示，當人工智能走向成熟時，它可能要叫 Schmidhuber 一聲“爸爸”。
現在，人工智能已經走向成熟，盡管部分人工智能先驅正驚恐地看著他們的創造物——呼吁要對技術的加速和擴散拉手剎——但 Schmidhuber 說這些呼吁存在誤導性。
這位德國計算機科學家表示，政府、大學和公司正在競相尋求推進技術發展，這意味著無論人類喜歡與否，現在存在著一場人工智能軍備競賽。
Schmidhuber 現在是沙特阿拉伯阿卜杜拉國王科技大學 AI 計劃的負責人。他說：“你無法阻止這場軍備競賽”。
“當然這不是一場國際層面的軍備競賽，因為一個國家的目標與另一個國家的可能會完全不一樣。所以，當然，他們不會參與某種形式的凍結行動。
“但我認為你也不該阻止它。因為在 95% 的情況下，人工智能研究其實與我們悠久的箴言相關，也是為了讓人類活得更長久、更健康、更輕松。”
相對于新提到的小危險，我會更擔心核彈的舊危險
——AI 教授 Jürgen Schmidhuber
Schmidhuber 的立場與他同時代的許多人形成鮮明對比，其中包括 Geoffrey Hinton 博士，后者曾在谷歌工作過 10 年，但其最近突然離開谷歌一事引起了大量關注。他說，自己離開谷歌是為了能更自由地談論 AI。
Hinton 因其在“深度學習”方面的工作而獲得 2018 年圖靈獎，并被稱為“AI教父”。深度學習是當今在用的大部分 AI 的基礎。
“人工智能教父”Geoffrey Hinton，他為了能更自由地討論人工智能而退出谷歌。攝影：Linda Nylind
他說，面對推動技術進步的競爭，讓像谷歌這樣的公司來管理人工智能已不再合適。他認為，如果人工智能變得比人類還要聰明，它就有可能會被壞人利用。
但在 AI 研究的功過問題上，Schmidhuber 與業內的 Hinton 等人一直存在著不和，他說這些擔憂大部分都是錯誤的。他還說，對付利用 AI 從事不良行為者的最佳辦法是使用 AI 開發好的工具。
他說：“用來改善生活的工具一樣可以被壞人使用，但它們也可以用來對付壞人”。
“相對于新提到的小危險，我會更擔心核彈的舊危險。”
Schmidhuber 認為，人工智能將發展到超越人類智能、對人類不感興趣的地步——而人類將繼續受益于人工智能開發的工具，并繼續使用這些工具。這是 Schmidhuber 已經討論了多年的主題，他的論斷曾在一次會議上被指責 “破壞了科學方法”。
正如我們此前報道的那樣，Schmidhuber 作為 AI 之父的地位并非無可爭議，他在 AI 界可能是一個有爭議的人物。有人說他對技術進步速度的樂觀沒有根據，而且可能是危險的。
除了 Hinton 以外，最近還有其他人也在呼吁要放慢 AI 的發展速度。今年 3 月下旬，未來生命研究所（Future of Life Institute)發表了一封公開信，呼吁在六個月內暫停建立比 ChatGPT 背后的機器 GPT-4 還要強大的人工智能，億萬富翁埃隆·馬斯克是署名的數千人之一。
馬斯克透露，上個月他與谷歌聯合創始人拉里·佩奇 (Larry Page) 鬧翻了，因為他說佩奇對待人工智能安全的態度不夠嚴肅，并試圖創造出一個“數字之神”。
譯者：boxi。
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
