新火種
2024-08-22 
DeepMind創(chuàng)始人最新訪談：AGI十年內降臨，重塑醫(yī)療能源氣候…
AGI何時會實現？谷歌DeepMind CEO哈薩比斯在最新的采訪中預言:
十年。
在這次訪談中，哈薩比斯大談特談AI的發(fā)展趨勢。
其中不乏一些大家比較感興趣的話題，例如：
短期內AI存在炒作過度的情況，但長期來看，其潛力和影響仍被低估
Google DeepMind作為谷歌的“超級團隊”，需在商業(yè)利益與科學研究間找到平衡
開源對科技進步很重要，但遇到可能被濫用的技術時，可能需要等上一年再將其開源，以此來評估和限制濫用。
更多具體內容，且看下面的文字版分享~
早期AI的“落地問題”Q：今天的訪談，我今天邀請了DeepMind的聯合創(chuàng)始人兼現任Google DeepMind CEO，哈薩比斯。
哈薩比斯：謝謝你，非常高興還能參與你的訪談。之前我們探討了概念和語言如何在現實世界中得到應用，比如在模擬環(huán)境中或者作為機器人具備的實際智能，這可能是我們理解周圍世界所必需的。
然而，必須承認的是，這些系統(tǒng)目前還未達到那個理想水平，它們會犯下許多錯誤，并且尚未真正構建一個關于世界的完整模型。盡管如此，僅通過語言學習，它們所取得的進步已經遠遠超出了我們的預期。
Q：是的，我們上一次討論了很多關于如何將語言在現實世界中落地的問題。不過你能不能簡要解釋一下什么是“落地”？防止第一次看我們訪談的朋友聽不懂。
哈薩比斯：“落地”這一概念，源于80年代和90年代在諸如MIT等學術機構所構建的經典AI系統(tǒng)。這些系統(tǒng)多為龐大的邏輯體系，可以想象為內含眾多相互關聯的單詞的巨型數據庫。
然而，問題在于，盡管你能在數據庫中找到如“狗有四條腿”這樣的陳述，但當系統(tǒng)面對一張真實的狗的照片時，卻無法將這些像素點與數據庫中的符號相對應，這就是所謂的“落地問題”。
換言之，系統(tǒng)擁有了符號或抽象表示，卻無法理解這些表示在現實世界中的具體含義。此后，盡管人們嘗試解決這個問題，但始終無法達到完美的狀態(tài)。
與過去的系統(tǒng)不同，如今的AI系統(tǒng)直接從數據中學習，并在一開始就建立了數據與現實世界的聯系。
有趣的是，即使這些系統(tǒng)最初只是基于語言進行學習，理論上應該缺乏大量的“落地”所需信息，因為它們并未與現實世界中的模擬器、機器人或其他形式的輸入相連接，而僅僅是在語言空間中進行學習。
然而，令人驚訝的是，這些系統(tǒng)仍然能夠從中推斷出關于現實世界的一些知識。
Q：這可能是因為，在人們與系統(tǒng)互動的過程中，會告訴系統(tǒng)哪些答案是正確的，哪些是錯誤的。通過這種方式的反饋，系統(tǒng)得以接收到部分“落地”信息，從而逐漸建立起與現實世界的聯系。
哈薩比斯：確實，如果系統(tǒng)在早期版本中因為缺乏“落地”信息而給出了錯誤的回答，比如錯誤地回答了“狗會怎么叫”這樣的問題，那么人們的反饋就會對其進行糾正。
這種反饋是基于我們自身的“落地”知識，所以，在某種程度上，系統(tǒng)會吸收并學習這種反饋中的信息。
Q：除此之外，我還有點想問問你關于AI炒作的問題。你覺得我們現在的處境，目前的情況，是炒作不足，還是炒作過度？
哈薩比斯：我認為更多的是后者。我想說，從近期來看，炒作有些過頭了。
我覺得人們說AI能做各種事情，但是實際上它卻沒有人們說的那么厲害。現在有很多初創(chuàng)公司和風險投資都在追逐那些不切實際的想法，他們的想法都不是很成熟。
但另一方面，我認為即使是現在，它仍然是被低估的，或者說還沒有得到足夠的重視。尤其是在我們到達AGI和后AGI階段時，我仍然覺得人們沒有完全理解這將會是一個多么大的變化，以及隨之而來的責任。
所以，我認為從短期來看，確實有點炒作過頭了，但是從長遠來看的話，它還是被低估了的。
Q：好的，現在我要提一個這次訪談中一個比較重要的問題，你認為Gemini與其他實驗室發(fā)布的大型語言模型有何不同呢？
哈薩比斯：我們從Gemini項目的最開始就設定了一個目標，那就是讓它能夠同時處理多種類型的數據。我們希望它不僅能理解文字，還能解析聲音、視頻、圖片和代碼等，基本上就是各種形式的信息。
我們深信，只有讓系統(tǒng)能夠理解和處理真實世界中的各種信息，它們才能真正地理解這個世界，進而構建出更加精確和全面的世界模型。
這其實也是我們上面提到的“落地”問題的一個延伸，只不過這次我們是利用語言作為基礎來實現這一點。
Q：所以“落地”仍然是整個項目的關鍵？
哈薩比斯：確實，這一點至關重要。
我們還有一個終極目標，那就是打造一個全能的助手。我們已經開發(fā)了一個名為Astro的項目原型，Astro不僅能理解你的輸入，還能感知你所處的環(huán)境背景。
試想一下，如果你的個人助理或數字助理能更深入地理解你的問題背景或你所處的情境，那它將更加得力。因此，我們始終堅信，這種系統(tǒng)類型將更具實用價值。
為此，我們從項目啟動之初就將多模態(tài)功能融入系統(tǒng)中。在當時，這是唯一一個具備此功能的模型，而現在，其他模型也在努力追趕。
Q：Astro項目是新興的通用AI代理，它能夠處理視頻和音頻數據。我記得在Google I/O大會上，你們展示了Astro如何幫助用戶記住眼鏡放置位置的實例。我對此技術的淵源很感興趣，它是否僅僅是舊版Google Glass的一種高級進化形態(tài)？
哈薩比斯：Google在眼鏡類設備的開發(fā)領域擁有悠久的歷史，早在2012年左右就已涉足。因此，他們在這一領域具有顯著的先發(fā)優(yōu)勢。可能當時缺乏必要的技術來使智能助手理解其所見之物。但如今，有了這款數字助理的陪伴，它能夠理解你周圍的世界，讓人感覺非常自然。
Q：我想追溯Gemini的起源，因為它源自組織內的兩個獨立部門，它是由他們共同完成的？
哈薩比斯：確實，去年我們把Alphabet（谷歌母公司）的兩個研究部門，也就是原來的DeepMind和Google Brain，合并成了一個新的部門，我們管它叫“超級部門”。
這樣一來，公司里所有頂尖的人才都聚到了一個團隊里，我們把所有研究領域的最棒的知識都融合在一起了，特別是在語言模型方面。
我們之前有一些項目，比如Trin Chilla、Gopher，它們都參與過早期語言模型，像Palm和Lambda的開發(fā)。這些模型各有各的長處和短處，而我們都把它們融合到了Gemini這個項目里，這是合并后的第一個非常重要的項目。
另外，還有一個特別重要的點，就是我們把所有的計算資源都整合到一起了。這樣一來，我們就能進行大規(guī)模的訓練運行，實際上就是把所有的計算力量都集中到一起，讓Gemini更加強大和高效。
這兩個團隊一直以來都盯著AI的最前沿，之前在個人研究上也已經有很多合作了，但可能在戰(zhàn)略上還沒那么緊密。現在合并后的團隊，我將其描述為Google的“引擎室”。
我覺得兩個團隊的工作方式其實挺像的，差別不大。接下來，我們會繼續(xù)加強在基礎研究上的優(yōu)勢，比如琢磨下一個Transformer架構會是啥樣，我們都想自己搞出來。
說起來，之前的Transformer是Google Brain搞出來的，我們又把它和Deep Reinforcement Learning結合到一起，但我覺得還得有更多創(chuàng)新才行。我相信，就像過去10年一樣，不管是Brain還是DeepMind，我們都會繼續(xù)出力。
Q：你剛才說，Google DeepMind現在是Google的“引擎室”，這是一個很大的變化。我想知道現在Google是不是在你身上下重注了？
哈薩比斯：我覺得是的。我認為Google一直都很清楚AI的重要性。皮猜在他剛擔任CEO的時候就說過，Google是一家“AI優(yōu)先”的公司。
我們在他剛上任的時候就討論過這個話題，他看到了AI作為繼移動互聯網之后的下一個重大范式轉變的潛力，而且它的影響力比這些還要深遠。
但我認為，在過去一兩年里，我們才開始真正理解這意味著什么，不僅僅是從研究的角度來看，還包括產品和其他各個方面。所以，這是一個非常激動人心的時刻，但我認為這是我們整合所有人才并全力以赴的正確選擇。
Q：從另一個角度來看，對于DeepMind而言，現在成為Google的“引擎室”，是否意味著你們必須在考慮商業(yè)利益與純粹的科學研究之間找到更多的平衡？
哈薩比斯：確實，我們現在需要更多地考慮商業(yè)利益，這已經成為我們職責的一部分。不過，實際上還是有一些觀點需要澄清，我們會繼續(xù)推進我們的科學研究工作，我們在這方面的投入還在不斷增加。
我認為，這是我們在Google DeepMind所做的一件獨一無二的事情，甚至我們的競爭對手也將這些成果視為AI帶來的普遍益處。
Q：好的，這就引出了我想問的下一個問題：開源。當技術普及到大眾手中時，就像你說的，可能會發(fā)生一些非常了不起的事情。我知道DeepMind過去開源了很多研究項目，但現在似乎這種情況有所改變。你能聊聊你對開源的看法嗎？
哈薩比斯：開源很有必要，我們一直是開源和開放科學的堅定支持者。就像你知道的，我們幾乎發(fā)布了所有做過的研究項目，包括像Transformer和AlphaGo這樣的項目，我們都在《自然》和《科學》這樣的頂級雜志上公開了。
AlphaFold也是開源的，這些都是我們做出的明智選擇。你說得對，這種方式之所以有效，是因為通過共享信息，科技和科學可以以最快的速度進步。在大多數情況下，開源都是普遍有益的，這也是科學的運作方式。
不過，也有例外情況，那就是當涉及到具有雙重用途的技術時，比如AGI和強大的AI。
問題在于，你希望能夠啟用所有的良性用例，希望那些真正的科學家和技術人員能夠基于這些想法進行構建和批判，從而推動社會快速進步。但同時，如何限制那些可能濫用這些系統(tǒng)的壞人，這就是問題所在。
現在還好，因為我覺得這些系統(tǒng)還不夠強大，但在兩三年后，尤其是當你開始獲得具有代理行為的系統(tǒng)時，可能會造成嚴重的傷害。
我們有自己開源的Gemini模型，叫做Gemma，但它們是較小的模型，不是最前沿的模型。
它們的能力對于開發(fā)人員來說仍然非常有用，因為它們可以在筆記本電腦上運行，也因為它們的參數量較少。它們的能力在目前這個階段已經被充分理解，因為它們并不是最新的最前沿模型。
可能我們最終會采取的做法是，我們會有開源模型，但它們會落后于最新的前沿模型一年左右，這樣我們可以在用戶的公開測試中真正評估這些模型的能力。
開源的一個問題是，如果出了問題，你無法召回它。對于專有模型，如果壞人開始以不良方式使用它，你可以關閉它，在極端情況下甚至可以關閉整個系統(tǒng)。但一旦你開源了某個東西，就無法收回了，這是單向的門。
Q：現在各種AI模型都是科研人員研發(fā)的，但是我想知道，如果我們進入AI支持所有科學研究的階段，研發(fā)機構是否還會有存在的空間？
哈薩比斯：我認為還是有存在空間的，我們現在正處于通用AGI出現前的階段，我認為這需要社會、學術界、政府和工業(yè)實驗室之間的緊密合作。
我真的堅信，這是我們最終達成目標的唯一途徑。如果你問的是AGI之后的情況，那可能才是你真正想了解的。AGI一直是我渴望構建的目標，因為我們可以利用它來探索一些關于現實本質、物理學、意識等方面的最基本問題。
Q：計算機科學家Stuart Russell曾告訴我，他有些擔心，一旦我們達到了AGI，可能我們都會像過去的貴族一樣，只會享受無憂無慮的奢華生活，沒有任何目標，也不會思考。
哈薩比斯：我認為未來將會非常有趣。但這也涉及到我之前提到的“被低估”的問題，即近期與遠期的炒作之間的差異。如果你愿意稱之為炒作，那么它確實在一定程度上被低估了。
我覺得未來的轉變將會是巨大的。我相信最終我們能夠治愈很多疾病，甚至所有疾病，解決能源問題、氣候問題。
Q：說到這，我記得你曾經說過希望AGI能夠探索宇宙的奧秘，你認為是否存在一些我們尚未設想過的可能性，比如蟲洞這樣的現象？
哈薩比斯：當然，我完全相信這種可能性。我真心期望蟲洞能夠成為現實。在我看來，我們對物理學和現實的本質還存在許多誤解。
顯然，量子力學與引力的統(tǒng)一、標準模型的問題、弦理論等等，都隱藏著無數的未解之謎。我與許多物理學界的朋友深入交流過，他們都認為現有的理論框架中有很多東西無法完美地契合在一起。
我個人對多元宇宙的解釋并不太感冒，因此我認為，如果我們能提出新的理論，并在太空中利用大型設備進行驗證，那將是一件非常了不起的事情。
我之所以對普朗克尺度的時間和空間如此著迷，是因為它似乎代表了現實的極限分辨率，就像是一切事物可以被分割到的最小單位。
因此，我認為我們應該在這個層次上進行深入的實驗探索，特別是在我們擁有AGI和豐富資源的情況下，或許我們能夠設計或建造出這樣的實驗設備。
Q：你曾說過DeepMind是一個20年的項目，現在我們走了多遠？你們還在按計劃推進嗎？
哈薩比斯：是的，我們仍在按計劃推進，這聽起來可能有些不可思議，因為通常20年的項目總是讓人感覺還需要20年才能完成。但我們已經取得了很大的進展。
我們的目標是在2030年完成，所以如果能在未來十年內達成這個目標，我也不會感到驚訝。
視頻地址：https://www.youtube.com/watch?v=pZybROKrj2Q *
Tags:
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
