九九热视频精品在线_国产成人mv视频在线观看_国产精品三级一区二区_亚洲精品国产av成拍色拍婷婷_久久伊人一区二区_国产高清精品网站_九九99热久久精品离线6_国产在线一卡2卡三卡4卡免费_日韩美女乱淫aaa高清视频_亚洲大胆_啪啪一级视频_午夜av免费观看_国产高清精品福利私拍国产写真_亚洲婷婷五月综合狠狠_日韩欧美一区二区三区视频_岛国av免费看_精品国产乱码久久久久久久软件_亚洲国产成人精品无码区99_www日本色_免费黄色看片

杰弗里·辛頓（Geoffrey Hinton），這位被譽(yù)為“人工智能教父”的科學(xué)家，于去年獲得了諾貝爾物理學(xué)獎(jiǎng)，引起了全網(wǎng)一陣討論。

最近辛頓接受了諾貝爾獎(jiǎng)官方的專訪，他回憶起接到諾獎(jiǎng)電話時(shí)的趣事時(shí)，第一反應(yīng)竟然是疑惑，因?yàn)樽约貉芯康牟⒎俏锢韺W(xué)（這點(diǎn)和全網(wǎng)的疑惑倒是一樣）。

作為深度學(xué)習(xí)領(lǐng)域的先驅(qū)，辛頓最廣為人知的成就是神經(jīng)網(wǎng)絡(luò)。但很多人其實(shí)不知道，他曾說過自己這輩子“最自豪”也是“最失敗”的成就，其實(shí)是與特里·塞諾夫斯基（Terry Sejnowski）共同提出了玻爾茲曼機(jī)理論。

詳見：《深度學(xué)習(xí)之父 Hinton 萬字訪談錄：中美 AI 競(jìng)賽沒有退路可言》

他們的工作，以及另一位諾獎(jiǎng)物理學(xué)獎(jiǎng)得主約翰·霍普菲爾德（John Hopfield）等神經(jīng)網(wǎng)絡(luò)先驅(qū)的早期研究，共同奠定了現(xiàn)代人工智能發(fā)展的基礎(chǔ)。

采訪中，辛頓表達(dá)了對(duì)人工智能未來發(fā)展的擔(dān)憂。他認(rèn)為，人工智能可能在短短五年內(nèi)超越人類智慧，并就此可能引發(fā)的社會(huì)風(fēng)險(xiǎn)，例如大規(guī)模失業(yè)和虛假信息等問題，提出了警告。更令人深思的是，辛頓暗示，人工智能的潛在風(fēng)險(xiǎn)可能遠(yuǎn)超我們目前的認(rèn)知。

接下來的正文內(nèi)容，帶大家深入了解辛頓的最新觀點(diǎn)。

諾貝爾獎(jiǎng)：您最初是如何得知自己獲得諾貝爾獎(jiǎng)的？

杰弗里·辛頓：當(dāng)時(shí)我正好在加利福尼亞一家酒店房間里睡著了，我的手機(jī)背面朝上放在床頭柜上，并且關(guān)掉了聲音。因?yàn)槭莻?cè)臥，手機(jī)正好在我的視線內(nèi)。突然，手機(jī)屏幕亮了起來。我看到一絲光亮，然后手機(jī)開始震動(dòng)。考慮到加利福尼亞與我認(rèn)識(shí)的幾乎所有人所在的東海岸存在時(shí)差，我感到疑惑，到底是誰會(huì)在這個(gè)時(shí)候給我打電話？

我拿起手機(jī)，屏幕上顯示了一個(gè)我不認(rèn)識(shí)區(qū)號(hào)和國家代碼的長號(hào)碼。這時(shí)，電話那頭傳來一個(gè)帶有瑞典口音的聲音，詢問我是否是杰弗里·辛頓。接著，他告訴我我獲得了諾貝爾物理學(xué)獎(jiǎng)。

我的第一反應(yīng)是，等等，我研究的不是物理學(xué)啊？這會(huì)不會(huì)是一個(gè)惡作劇？但隨后，他所說的內(nèi)容聽起來非常可信。之后，又有其他帶有瑞典口音的人加入了通話。這時(shí)我才開始相信這是真的。

在接下來的幾天里，我仍然感覺像是在做夢(mèng)。因此，我進(jìn)行了一些統(tǒng)計(jì)學(xué)上的推理。我的推理過程是這樣的：一個(gè)真正致力于研究大腦工作原理的心理學(xué)家，獲得諾貝爾物理學(xué)獎(jiǎng)的概率有多大？假設(shè)這個(gè)概率是兩百萬分之一，這已經(jīng)是一個(gè)相當(dāng)寬松的估計(jì)了。那么，如果這是一個(gè)夢(mèng)，我夢(mèng)見自己獲得了諾貝爾物理學(xué)獎(jiǎng)，這個(gè)概率又是多少？假設(shè)是二分之一。這樣一比較，夢(mèng)境的可能性是現(xiàn)實(shí)可能性的百萬倍。

因此，我感覺這可能像小時(shí)候做過的那些會(huì)飛的夢(mèng)一樣——夢(mèng)里我可以自由飛翔，感覺美妙極了，但醒來后才發(fā)現(xiàn)那只是一場(chǎng)夢(mèng)。過了一個(gè)月，我又做了一個(gè)會(huì)飛的夢(mèng)。我記得上次做過會(huì)飛的夢(mèng)，但那并不是真的，而這次卻感覺如此真實(shí)。我當(dāng)時(shí)就想，這次會(huì)不會(huì)也是這種情況？所以有那么幾天，我一直處于一種等待醒來的狀態(tài)。直到現(xiàn)在，我仍然沒有醒來。

諾貝爾獎(jiǎng)：在著名的研究人員家庭中長大是怎樣的體驗(yàn)？

杰弗里·辛頓：在學(xué)術(shù)上取得成功的壓力一直很大。我從小就隱約地意識(shí)到，我必須在學(xué)術(shù)上有所成就，否則就會(huì)被（家族）視為失敗。

諾貝爾獎(jiǎng)：是什么讓您對(duì)研究人工智能產(chǎn)生興趣？

杰弗里·辛頓：我高中時(shí)有個(gè)朋友，他總是比我聰明得多。大約在我們 16 或 17 歲的時(shí)候，有一天他來學(xué)校，開始談?wù)摯竽X中的記憶，以及它們?nèi)绾蜗袢D一樣分布在大腦中。

當(dāng)時(shí)全息圖剛剛問世，大約是 1965 年。他對(duì)心理學(xué)家拉什利提出的觀點(diǎn)非常感興趣，即記憶是分散存儲(chǔ)在許多神經(jīng)元中的。我對(duì)這個(gè)觀點(diǎn)產(chǎn)生了濃厚的興趣，從那時(shí)起，我就一直在思考大腦是如何運(yùn)作的。

諾貝爾獎(jiǎng)：人工智能帶來的最大風(fēng)險(xiǎn)是什么？

杰弗里·辛頓：人工智能的風(fēng)險(xiǎn)大致可以分為兩類：

一類是相對(duì)短期的風(fēng)險(xiǎn)，這些風(fēng)險(xiǎn)既重要又緊迫。它們主要源于人們對(duì)人工智能的誤用。目前，人工智能仍然受人類控制，但已被濫用。這些短期風(fēng)險(xiǎn)包括人工智能取代大量工作崗位，加劇貧富差距。因?yàn)楫?dāng)人工智能提高生產(chǎn)力時(shí)，收益分配并不均衡。一部分人會(huì)失業(yè)，而另一部分人則會(huì)變得更加富有。這對(duì)社會(huì)發(fā)展是不利的。這是一種風(fēng)險(xiǎn)，我們需要思考應(yīng)對(duì)之策，盡管具體的應(yīng)對(duì)方法尚不明確。

另一種短期風(fēng)險(xiǎn)是虛假視頻，它們可能會(huì)被用來干擾選舉，這種情況已經(jīng)開始出現(xiàn)。還有網(wǎng)絡(luò)攻擊的風(fēng)險(xiǎn)，一些不良分子可能會(huì)利用大型人工智能模型來策劃更復(fù)雜的攻擊。最初可能只是為了更有效地進(jìn)行網(wǎng)絡(luò)釣魚。例如，去年到現(xiàn)在，網(wǎng)絡(luò)釣魚攻擊事件增加了 1200%，這很可能與大語言模型的出現(xiàn)有關(guān)，因?yàn)樗鼈兪沟镁W(wǎng)絡(luò)釣魚更具欺騙性。

此外，人工智能還可能被用于設(shè)計(jì)生化武器，而且使用人工智能可以更高效地完成這類設(shè)計(jì)。在不久的將來，設(shè)計(jì)這類武器可能會(huì)變得相對(duì)容易，這意味著一個(gè)心懷不軌的人就可能制造出難以想象的混亂。如果大模型的參數(shù)被公開，情況會(huì)變得更加糟糕。因?yàn)樗丝梢暂p易獲取這些大型模型，并進(jìn)行微調(diào)。而現(xiàn)在已經(jīng)有人開始公開大模型的參數(shù)，我認(rèn)為這種做法非常不明智。

除了以上風(fēng)險(xiǎn)，還有一些其他的短期風(fēng)險(xiǎn)，例如歧視和偏見。例如，如果你訓(xùn)練一個(gè)人工智能模型來決定是否應(yīng)該給予囚犯假釋，而歷史數(shù)據(jù)表明白人囚犯更容易獲得假釋，黑人囚犯則不然。那么，基于這些歷史數(shù)據(jù)訓(xùn)練出來的人工智能模型，很可能會(huì)得出與歷史數(shù)據(jù)相同的結(jié)論。但我個(gè)人并沒有像其他人那樣對(duì)此感到過分擔(dān)憂。因?yàn)閷?duì)于人工智能模型，我們可以凍結(jié)其參數(shù)，并量化其中的歧視程度，這在人類身上是難以做到的。如果我們?cè)噲D衡量人類的歧視程度，人們會(huì)意識(shí)到自己正在被評(píng)估，從而產(chǎn)生“大眾汽車效應(yīng)”，即他們?cè)诒辉u(píng)估時(shí)會(huì)表現(xiàn)得與平時(shí)不同。

因此，我認(rèn)為在人工智能系統(tǒng)中衡量歧視和偏見，實(shí)際上比在人類行為中衡量要容易得多。而且，我認(rèn)為我們的目標(biāo)不應(yīng)該是創(chuàng)造完全沒有歧視和偏見的事物。我們的目標(biāo)應(yīng)該是創(chuàng)造出相比于現(xiàn)有系統(tǒng)，歧視更少、偏見也更少的人工智能系統(tǒng)。

以上討論的是短期風(fēng)險(xiǎn)。此外，還存在一個(gè)長期風(fēng)險(xiǎn)，即人工智能可能會(huì)超越人類并控制一切。我們正在創(chuàng)造比我們自身更智能的實(shí)體。對(duì)于人工智能超越人類的時(shí)間節(jié)點(diǎn)，研究人員的看法不盡相同，但在頂尖研究人員中，對(duì)于這件事終將發(fā)生幾乎沒有異議，除非人類自我毀滅。因此，問題在于，當(dāng)我們創(chuàng)造出比我們更聰明的生物時(shí)會(huì)發(fā)生什么？我們對(duì)此一無所知，因?yàn)橹皬奈从龅竭^這種情況。任何斷言一切都會(huì)好起來或者必然能掌控局面的人，都是瘋子。正因如此，現(xiàn)在就進(jìn)行大量基礎(chǔ)研究，探索我們是否能夠駕馭比我們更聰明的造物，顯得尤為重要。

我們所知的由不夠聰明的事物控制更聰明事物的例子并不多。我所知的唯一較好的例子是嬰兒對(duì)母親的控制（此處指嬰兒的需求和哭鬧會(huì)影響母親的行動(dòng)和決策）。然而，這兩者之間的智力差距并不大，而且進(jìn)化花費(fèi)了漫長的時(shí)間才促成這種情況。

現(xiàn)在，有些人認(rèn)為這不成問題，因?yàn)檫@些智能體由我們創(chuàng)造，并且我們會(huì)以一種確保始終能掌控它們的方式來構(gòu)建。但是，這些事物會(huì)非常聰明，它們會(huì)像我們一樣，實(shí)際上，它們的工作方式與我們非常相似。它們并非像計(jì)算機(jī)代碼那樣運(yùn)作——盡管人們有時(shí)將它們稱為計(jì)算機(jī)程序，但它們根本不是傳統(tǒng)意義上的程序。你編寫計(jì)算機(jī)程序是為了指導(dǎo)神經(jīng)網(wǎng)絡(luò)如何學(xué)習(xí)，即一個(gè)模擬的神經(jīng)網(wǎng)絡(luò)。然而，一旦神經(jīng)網(wǎng)絡(luò)開始學(xué)習(xí)，它就會(huì)從數(shù)據(jù)中提取結(jié)構(gòu)，最終形成的系統(tǒng)是從數(shù)據(jù)中自行構(gòu)建結(jié)構(gòu)的，而非由人編寫的固定程序。我們并不確切知道這種系統(tǒng)會(huì)如何運(yùn)作，而且它們會(huì)像我們一樣具備自主性。

因此，要讓這些系統(tǒng)表現(xiàn)得合理，就像教育孩子一樣。我們主要的控制手段在于強(qiáng)化和訓(xùn)練：獎(jiǎng)勵(lì)良好行為，懲罰不良行為。更重要的是，通過展示和示范良好的行為來訓(xùn)練它們，使其觀察并模仿。對(duì)于這些系統(tǒng)而言，情況也是如此。所以，對(duì)它們進(jìn)行我們期望看到的行為類型的訓(xùn)練至關(guān)重要。目前，大型聊天機(jī)器人是基于它們所能獲取的所有數(shù)據(jù)進(jìn)行訓(xùn)練的，這其中甚至包括連環(huán)殺手日記之類的內(nèi)容。試想一下，在養(yǎng)育孩子的過程中，你會(huì)讓孩子通過閱讀連環(huán)殺手的日記來學(xué)習(xí)嗎？相信你會(huì)意識(shí)到那絕對(duì)是一個(gè)糟糕的主意。

諾貝爾獎(jiǎng)：在人工智能超越我們之前，我們還有多少時(shí)間？

杰弗里·辛頓：我個(gè)人認(rèn)為，在未來的 5 到 20 年內(nèi)，我們很有可能，大概有 50% 的概率，會(huì)創(chuàng)造出比人類更智能的人工智能。當(dāng)然，這個(gè)時(shí)間可能會(huì)更長，也可能稍短一些。但我認(rèn)為在 20 年內(nèi)，這種情況發(fā)生的可能性相當(dāng)大。其他研究人員對(duì)此的預(yù)測(cè)時(shí)間或長或短，這只是我個(gè)人的猜測(cè)。實(shí)際上，這個(gè)預(yù)測(cè)和我一年前的猜測(cè)相同。所以，如果現(xiàn)在讓我重新猜測(cè)，我可能會(huì)將時(shí)間范圍調(diào)整為 4 到 19 年。

諾貝爾獎(jiǎng)：作為一名科學(xué)家，取得成功的重要個(gè)人品質(zhì)是什么？

杰弗里·辛頓：我認(rèn)為這取決于你所處的領(lǐng)域，以及你是否嘗試在研究方向上與領(lǐng)域內(nèi)的普遍標(biāo)準(zhǔn)有所不同。就神經(jīng)網(wǎng)絡(luò)領(lǐng)域而言，很長一段時(shí)間里，它都被視為荒謬的，許多人都認(rèn)為它永遠(yuǎn)不會(huì)奏效。因此，要在這樣一個(gè)領(lǐng)域取得成功，你必須有自信，堅(jiān)信自己是對(duì)的，即使所有人都認(rèn)為你是錯(cuò)的。

實(shí)際上，我在很小的時(shí)候經(jīng)歷過幾件事，這對(duì)我的成長有所幫助。其中一件是，我的父母都是無神論者，卻在我七歲時(shí)把我送進(jìn)了一所基督教私立學(xué)校。學(xué)校里的每個(gè)人都信仰上帝，包括老師和其他學(xué)生。但在我看來，這簡(jiǎn)直是無稽之談。事實(shí)證明，我是對(duì)的。這種經(jīng)歷讓我體會(huì)到，當(dāng)周圍的所有人都相信某件事，而你卻清楚地知道他們是錯(cuò)的，并且隨著年齡增長，你發(fā)現(xiàn)越來越多的人也不再相信他們所相信的，這是一種非常有益的體驗(yàn)。

這對(duì)我堅(jiān)持研究神經(jīng)網(wǎng)絡(luò)起到了很大的幫助，即使當(dāng)時(shí)幾乎所有計(jì)算機(jī)科學(xué)領(lǐng)域的人都認(rèn)為神經(jīng)網(wǎng)絡(luò)是無稽之談。當(dāng)然，并非所有人，但幾乎是所有計(jì)算機(jī)科學(xué)領(lǐng)域的人。

另一個(gè)我很少提及的經(jīng)歷是，大概在我九歲左右的時(shí)候，具體年齡記不太清了。我聽到了一個(gè)廣播節(jié)目，我的父親在節(jié)目中談?wù)摯箨懫茖W(xué)說。在當(dāng)時(shí)，關(guān)于大陸是否會(huì)移動(dòng)，存在著很大的爭(zhēng)議。幾乎所有的地質(zhì)學(xué)家都認(rèn)為這完全是荒謬的。這個(gè)理論最早是由氣候?qū)W家魏格納在 1920 年左右提出的，他提供了許多證據(jù)來證明大陸是會(huì)移動(dòng)的。但他并非地質(zhì)學(xué)家，因此地質(zhì)學(xué)家們認(rèn)為他的理論完全是胡說八道，并對(duì)此嗤之以鼻。例如，他們拒絕將大陸漂移學(xué)說納入教科書，認(rèn)為這會(huì)誤導(dǎo)學(xué)生，完全是無稽之談。

諾貝爾獎(jiǎng)：您對(duì)年輕研究人員有什么建議？

杰弗里·辛頓：我不確定自己是否適合給出建議，但我通常會(huì)給出的建議是：如果你有一個(gè)想法，并且你認(rèn)為它是正確的，但它又與大多數(shù)人的看法相悖，那么在你想清楚它錯(cuò)在哪里之前，不要輕易放棄。

因?yàn)榇蠖鄶?shù)時(shí)候，你所持有的這類與眾不同的想法，其實(shí)都是錯(cuò)誤的。可能是你忽略了某些因素，或者對(duì)某些問題理解不夠深入。但極少數(shù)情況下，你會(huì)遇到一個(gè)與眾不同且正確的想法。除非你堅(jiān)持自己的信念，不斷探索，直到找到它錯(cuò)誤的原因，否則你永遠(yuǎn)不會(huì)發(fā)現(xiàn)那個(gè)正確的想法。同時(shí)，你也應(yīng)該忽略別人的質(zhì)疑和否定。我很擅長忽略別人的看法。

諾貝爾獎(jiǎng)：科學(xué)家在社會(huì)中有什么責(zé)任？

杰弗里·辛頓：我認(rèn)為，相比于政治家和普通大眾，科學(xué)家們對(duì)人工智能這項(xiàng)技術(shù)的本質(zhì)有著更深刻的理解。當(dāng)然，科學(xué)家之間也存在分歧。仍然有一些科學(xué)家認(rèn)為，這些大型聊天機(jī)器人并沒有真正理解它們所說的話。盡管有大量的證據(jù)表明它們確實(shí)具備理解能力，但一些科學(xué)家仍然堅(jiān)持認(rèn)為這只是一種統(tǒng)計(jì)學(xué)的技巧。

諾貝爾獎(jiǎng)：回顧您的職業(yè)生涯，有什么可以做得不同的地方嗎？

杰弗里·辛頓：我希望自己能更早地開始關(guān)注人工智能帶來的生存威脅。我過去一直認(rèn)為，超級(jí)人工智能還很遙遠(yuǎn)，我們可以以后再考慮這個(gè)問題。而當(dāng)時(shí)的首要任務(wù)是讓這些人工智能變得更加智能。我真希望自己能更早地思考這個(gè)問題，即人工智能發(fā)展到一定程度后可能會(huì)帶來什么。

回顧 20 世紀(jì) 50 年代初圖靈的著作，他談到了創(chuàng)造比人類更智能的機(jī)器。他有一句話，大意是，當(dāng)然，當(dāng)機(jī)器變得比我們更聰明時(shí)，我們就“完蛋了”。他雖然沒有明確這樣說，但他的話語中暗示了這一層意思。然而，大多數(shù)人直到問題迫在眉睫時(shí)才開始思考這個(gè)問題，而問題是，現(xiàn)在這個(gè)問題已經(jīng)非常接近了。所以我希望自己能更早地開始思考這個(gè)問題。

諾貝爾獎(jiǎng)：您打算如何使用獎(jiǎng)金？

杰弗里·辛頓：我將我個(gè)人獲得獎(jiǎng)金的一半捐贈(zèng)給加拿大的一個(gè)組織，該組織致力于培訓(xùn)原住民社區(qū)的居民掌握安全飲用水生產(chǎn)技術(shù)。這樣做的好處是，接受培訓(xùn)的人們可以留在自己的社區(qū)，并為社區(qū)提供安全的飲用水。在加拿大這樣一個(gè)富裕的國家，例如在安大略省，仍然有 20% 的原住民社區(qū)無法獲得安全的飲用水，這簡(jiǎn)直是難以置信的。

我對(duì)這個(gè)問題深有感觸，因?yàn)槲以诿佤斒震B(yǎng)了一個(gè)孩子，并在那里生活了兩個(gè)月。秘魯?shù)淖詠硭遣荒苤苯语嬘玫模怯卸镜摹Ｒ虼耍绾潍@得安全飲用水成為了你生活中的頭等大事。這確實(shí)給日常生活帶來了巨大的額外負(fù)擔(dān)。在加拿大，仍然有人需要遭受這樣的困境，這太不應(yīng)該了。所以我將一半獎(jiǎng)金捐給了這個(gè)組織。

至于另一半獎(jiǎng)金，早在 20 世紀(jì) 80 年代，我曾與特里·塞諾夫斯基合作研究玻爾茲曼機(jī)理論，特里實(shí)際上是霍普菲爾德的學(xué)生。我們?cè)诓柶澛鼨C(jī)理論的研究中貢獻(xiàn)相當(dāng)，可以說，沒有與他的交流，就不會(huì)有我的理論，反之亦然。特里最初是一名物理學(xué)家，后來轉(zhuǎn)向神經(jīng)科學(xué)研究。我們當(dāng)時(shí)認(rèn)為，玻爾茲曼機(jī)一定揭示了大腦的工作原理。

因?yàn)樗且粋€(gè)如此精妙的學(xué)習(xí)算法，我們深信它必然與大腦的工作方式有關(guān)。我們甚至認(rèn)為，我們可能會(huì)因?yàn)榘l(fā)現(xiàn)大腦的工作原理而獲得諾貝爾生理學(xué)或醫(yī)學(xué)獎(jiǎng)。我們?cè)?20 世紀(jì) 80 年代曾達(dá)成一個(gè)協(xié)議，如果諾貝爾獎(jiǎng)只頒發(fā)給我們中的一人，我們將平分獎(jiǎng)金。所以，當(dāng)諾貝爾獎(jiǎng)出乎意料地頒發(fā)給我，并且獲獎(jiǎng)理由之一是玻爾茲曼機(jī)時(shí)，我立即聯(lián)系了特里，詢問他希望我將屬于他的一半獎(jiǎng)金寄到哪里。但他表示，他覺得接受這筆錢不太合適，因?yàn)檫@次諾貝爾獎(jiǎng)的表彰不僅僅是因?yàn)椴柶澛鼨C(jī)，也包括了其他他參與度較低的后續(xù)研究成果。

因此，他拒絕接受這筆錢。最終，我們達(dá)成了一個(gè)折衷方案，我用我那部分獎(jiǎng)金的一半，設(shè)立一個(gè)以特里·塞諾夫斯基命名的獎(jiǎng)項(xiàng)，用于獎(jiǎng)勵(lì)年輕研究人員，特別是那些對(duì)大腦工作原理提出“瘋狂”理論的年輕研究人員，就像我們當(dāng)年一樣。這個(gè)獎(jiǎng)項(xiàng)將在我們研究領(lǐng)域的年度會(huì)議上頒發(fā)。我認(rèn)為這是一個(gè)很好的折衷方案。我認(rèn)為特里完全有資格成為諾貝爾獎(jiǎng)的第三位獲獎(jiǎng)?wù)撸罱K沒有入選。我對(duì)此并沒有抱怨，但他的確有這個(gè)資格。通過設(shè)立這個(gè)獎(jiǎng)項(xiàng)，也是為了肯定他所做出的巨大貢獻(xiàn)。