新火種
2023-09-24 
對話北京智源研究院黃鐵軍：人工智能的“電流”產(chǎn)生后我們往哪里去？
10年后回憶2023年，人們該怎么理解ChatGPT出現(xiàn)后的AI涌現(xiàn)？北京智源人工智能研究院院長、北京大學(xué)計算機學(xué)院教授黃鐵軍很早就有相關(guān)思考。“今天大家對AGI（人工通用智能）和強人工智能太輕描淡寫了，絕大多數(shù)人沒有認真想這個詞意味著什么?！秉S鐵軍表示。
9月的珠海暖陽下，第一財經(jīng)記者見到了前往參加博鰲亞洲論壇國際科技與創(chuàng)新論壇第三屆大會的黃鐵軍。業(yè)界人士樂于討論大模型商用的當(dāng)下，黃鐵軍傾向于目光看得更遠，并思考更終極的問題。他大約10年前就想明白AGI會出現(xiàn)，且在約2045年可以做出來。他告訴第一財經(jīng)記者，AGI是全面超越人類智能、有自我意識的超級智能，并非很多人理解的通用型人工智能。AGI要不要做，是需極其慎重的事。而AI對人類的影響和預(yù)備性措施，早就應(yīng)該考慮。
黃鐵軍的想法代表了一部分學(xué)者和業(yè)界人士的擔(dān)憂。今年3月，生命未來研究所（Future of Life）發(fā)布了一封《暫停大型人工智能研究》的公開信，呼吁所有AI實驗室立即暫停比GPT-4更強大的AI系統(tǒng)的訓(xùn)練，暫停時間至少6個月。馬斯克、蘋果聯(lián)合創(chuàng)始人Steve Wozniak等知名科技人士簽署了公開信。黃鐵軍也簽署了，他認為“這是一種呼吁，至少提醒大家前面有危險”。
黃鐵軍認為可能存在的危險包括，AI智力超越人類后的決策權(quán)問題，以及面對強大的AI時，人可能出現(xiàn)的“躺平”心態(tài)。但黃鐵軍并不反對AI，或者說認為“不可能攔住人群不要往前跑”。他認為，AI水平趕超后或許能解決人類束手無策的復(fù)雜問題，比如星際旅行。面對AI，他認為人們要做的最重要的事情或是適應(yīng)。
智源研究院在科技部與北京市的指導(dǎo)下成立，定位為非盈利科研機構(gòu)，獨立于高校和商業(yè)之外，但智源研究院向業(yè)界輸出的骨干，仍助力奠定國內(nèi)大模型發(fā)展的基礎(chǔ)。智源研究院還是國內(nèi)最早邁上大模型路線的機構(gòu)，2021年，黃鐵軍在悟道1.0發(fā)布會上稱，AI從“大煉模型”逐步邁向“煉大模型”，“大模型”的中文表達就此誕生。
作為國內(nèi)AI最早的推行者之一，站在學(xué)界與業(yè)界的交界，黃鐵軍的見解有一定代表性。他將大模型比喻成“發(fā)電廠”，將大模型提供的智力比喻為“電”，并認為全世界可能只需要屈指可數(shù)的幾個大模型。
“就像法拉第用一個線圈在磁場中旋轉(zhuǎn)，AI也能產(chǎn)生‘電流’了。”黃鐵軍如此形容大模型出現(xiàn)后的當(dāng)下。與第一財經(jīng)記者的對話中，他還談及大模型如何改變AI公司的商業(yè)邏輯、AI產(chǎn)業(yè)未來的形態(tài)、AI可能抵達的遠方和人類與AI共處的未來。
“全世界可能只需幾個大模型”
第一財經(jīng)：國內(nèi)掀起“百模大戰(zhàn)”，這是企業(yè)不得不抓住的風(fēng)口還是應(yīng)對競爭的被動應(yīng)對？匆匆入局大模型，您認為業(yè)界是否缺乏某些思考？
黃鐵軍：總的來說是因為大模型在人工智能、信息系統(tǒng)里發(fā)揮明顯作用，所以各家都會做。長遠看，不需要那么多大模型，全球可能只需要屈指可數(shù)的幾個大模型體系，但這有一個發(fā)展過程。就像現(xiàn)在的移動互聯(lián)網(wǎng)，主要是iOS和安卓兩個生態(tài)，互聯(lián)網(wǎng)最初也有很多局域網(wǎng)，發(fā)展到一定程度才融合成一個大體系，大模型這種提供智力服務(wù)的基礎(chǔ)設(shè)施將是網(wǎng)絡(luò)化的。今年上半年，國內(nèi)出現(xiàn)“百模大戰(zhàn)”，現(xiàn)在（新大模型數(shù)量）已經(jīng)回落，長遠看還會收斂，這是商業(yè)正?，F(xiàn)象。
在以云為載體的智力時代，要研究的技術(shù)還很多，不是某個公司、某個團隊訓(xùn)練出一個模型這種概念。就像電網(wǎng)用了100多年，還在研究如何改進電力技術(shù)，最終呈現(xiàn)出“一度電花多少錢”的結(jié)果。將來，AI也將變成“一度智力”花多少錢、背后多少成本的問題，這是一個比技術(shù)學(xué)科還大的領(lǐng)域，需要大學(xué)、非盈利機構(gòu)參與，從各角度改進。就像法拉第用一個線圈在磁場中旋轉(zhuǎn)，產(chǎn)生電流?，F(xiàn)在AI也產(chǎn)生“電流”了。從法拉第實驗產(chǎn)生電流開始，到今天能隨時用電，中間有太多事情要做。
第一財經(jīng)：語言大模型興起后，原本細分領(lǐng)域AI公司的工作方式會不會改變？
黃鐵軍：變化很大，以前AI公司是產(chǎn)品思維，訓(xùn)練一個模型，比如CV（視覺）模型，整合軟硬件賣人臉識別服務(wù)。就像PC時代和移動互聯(lián)網(wǎng)時代（的商業(yè)模式演變），PC時代是賣PC、賣軟件，移動互聯(lián)網(wǎng)時代則出現(xiàn)iOS、安卓的App，平臺開始起關(guān)鍵作用。不過，目前很多大模型還是持產(chǎn)品思維，（廠商）認為大模型可以提升業(yè)務(wù)（效率）。這還是初級階段，不是長期狀態(tài)。
歸根結(jié)底，大模型能力強意味著很多因素，例如數(shù)據(jù)盡可能全、盡可能新。而現(xiàn)在做大模型，（廠商）抓一些數(shù)據(jù)學(xué)習(xí)后就開始賣，數(shù)據(jù)少，智力水平不高。大模型要像電廠一樣，采用多種手段發(fā)電，讓大家直接用電，而不是靠賣電機給用戶。（大模型）一定是網(wǎng)絡(luò)化的運營服務(wù)產(chǎn)業(yè)形態(tài)。
大模型現(xiàn)在好像已經(jīng)很大了，但即便是1萬億參數(shù)，也不過是人腦的1%，況且人腦的參數(shù)還比大模型的參數(shù)復(fù)雜，未來大模型參數(shù)量肯定比現(xiàn)在大很多。最新數(shù)據(jù)也要進入大模型體系，這不是隨便一個創(chuàng)業(yè)公司承擔(dān)得了的。大模型應(yīng)該像電力系統(tǒng)，各方做好一端，最后并入電網(wǎng)、供給服務(wù)。大模型不同于此前CV等細分領(lǐng)域大模型，最根本是在于它有吸納一切的能力，它作為載體，能把生產(chǎn)資料和下游用戶連成一個體系。
第一財經(jīng)：大模型如果變成發(fā)電廠一般的存在，是否涉及壟斷問題？您怎么看“發(fā)電廠”和“用電方”的角色分化？如少數(shù)廠商做大模型，其他廠商專注應(yīng)用層。
黃鐵軍：只要集中在少數(shù)幾個平臺，壟斷是肯定的。水電氣產(chǎn)業(yè)都不是簡單的自由競爭，所以要從價格、政策上約束。把大模型比作發(fā)電廠的說法是從智源研究院出來的，如此說是因為我們不是企業(yè)，而是非盈利機構(gòu)，我們也不可能壟斷大模型。大模型變成“發(fā)電廠”有一個演化過程，涉及國家層面、民眾本身的決策，非常復(fù)雜，如涉及個人數(shù)據(jù)進入大模型的情況，數(shù)據(jù)匯聚將有遠超商業(yè)的問題要處理。超這個方向發(fā)展（大模型成為“發(fā)電廠”）是從社會效益最大化的角度來說。
第一財經(jīng)：大模型基礎(chǔ)上的應(yīng)用層生態(tài)，您認為會是什么形態(tài)？
黃鐵軍：（大模型）有很多用法，將來的應(yīng)用有賴于全新的產(chǎn)品出現(xiàn)。討論比較多的應(yīng)用包括個人助理，個人助理未來可能跟今天的微信一樣，每個人都要用，這是巨大的產(chǎn)品機會。是消費者直接購入機器人還是由機器人公司在背后提供服務(wù)，各種產(chǎn)業(yè)形態(tài)將會探索。如具身智能，機器人自動駕駛也會帶來巨大變化，如果汽車智能化比人更強，開車肯定不是今天這個狀態(tài)，或許不用買車，由運營商提供服務(wù)。
“生物智能從來不是唯一答案”
第一財經(jīng)：深度神經(jīng)網(wǎng)絡(luò)構(gòu)建了目前AI領(lǐng)域的核心，但相對而言，深度神經(jīng)網(wǎng)絡(luò)是一個簡單的結(jié)構(gòu)，核心要素是數(shù)據(jù)、算力、算法，模仿的并非真正復(fù)雜的人，它能達到真正的智能嗎？
黃鐵軍：能產(chǎn)生智能、說什么樣的結(jié)構(gòu)能更好地產(chǎn)生智能、最優(yōu)的結(jié)構(gòu)是什么，有一個發(fā)展過程。以前（的智能）都是人設(shè)計算法、由人主導(dǎo)，現(xiàn)在一個系統(tǒng)能從數(shù)據(jù)里把智能“學(xué)”出來，而且還“學(xué)”出一些意料之外的智能，這是一次革命，但并非說這個方案最優(yōu)。深度神經(jīng)網(wǎng)絡(luò)或大模型背后的Transformer架構(gòu)，偉大之處是因為讓“這件事發(fā)生了”，但往后看5年、10年甚至更長時間，一定會改變，改變可能是顛覆性，也可能是完善性。
從基本的合理性來說，深度神經(jīng)網(wǎng)絡(luò)是多層神經(jīng)網(wǎng)絡(luò)?！吧疃取被旧鲜菍Φ?，但要多深還沒有理論上的證據(jù)。人腦神經(jīng)網(wǎng)絡(luò)里，新皮層每個功能柱有6層，層與層、功能柱和功能柱之間有復(fù)雜連接，形成層級結(jié)構(gòu)，這個層級結(jié)構(gòu)可能只有幾級就到理性思維的層面。（深度神經(jīng)網(wǎng)絡(luò)）可能在幾十層內(nèi)對于人類的智能就夠了，再多或許強于人的智能。深度神經(jīng)網(wǎng)絡(luò)、Transformer都是好的設(shè)計，未來結(jié)構(gòu)會越來越好、效率越來越高。
不合理之處是，跟真正的智能相比，現(xiàn)在信號的表達方式距離生物智能都很遠。信息信號的表達以及在神經(jīng)網(wǎng)絡(luò)中的轉(zhuǎn)換，有太多改進空間。
第一財經(jīng)：之前學(xué)界探索過類腦等其他路徑，現(xiàn)在它們還有多少發(fā)展空間？
黃鐵軍：產(chǎn)生智能的結(jié)構(gòu)和機理無窮無盡，但能否認識到是另一回事。一個人突發(fā)奇想設(shè)計一個完全不同于生物的結(jié)構(gòu)能產(chǎn)生智能，這種可能性是存在的。生物智能從來不是唯一答案。類腦是有一個參照物，可以逼近它，盡管逼近目標(biāo)很復(fù)雜，但這條路的可行性存在。（類腦）路徑當(dāng)然有必要，因為它本來就是發(fā)現(xiàn)新結(jié)構(gòu)和機理的道路，盡管現(xiàn)在產(chǎn)業(yè)投資關(guān)注度相對沒那么高，但作為研究方向會繼續(xù)下去，我相信對人工智能發(fā)展也會起作用。
第一財經(jīng)：深度學(xué)習(xí)網(wǎng)絡(luò)的機制我們還不清楚，類似一個黑箱。隨著AI進化，人類能夠永遠去理解、把控AI運作的方式嗎？
黃鐵軍：比人類低的動物智能，我們可能完全理解，到人的水平，理解和不理解都有可能，比我們更復(fù)雜的智能肯定理解不了。就像猴子理解人類社會運行的規(guī)則，超出了它們思維的空間。一個智能系統(tǒng)的復(fù)雜程度或可能性空間有一定范圍。如果一個智能系統(tǒng)的空間比你大，你還想理解里面所有機制，是不可能的。
在我們的想象之外，不代表我們做不出這樣的智能系統(tǒng)。有太多的東西是人不明白原理但能做出來的，就像古代發(fā)明指南針、鹵水點豆腐，那時誰知道有機物和鹽的相互關(guān)系？現(xiàn)在AI（即便是）黑盒子，也是一個可運行的盒子。
“人會丟失越來越多傳統(tǒng)工作”
第一財經(jīng)：很多人擔(dān)心，自己的職業(yè)會不會被AI替代。針對AI對人類的影響，現(xiàn)在有沒有必要進行預(yù)備性的設(shè)計？
黃鐵軍：早就應(yīng)該考慮。AI會代替一些人類不想做的事，但隨著AI對人類智力的替代，人的控制權(quán)可能逐漸被侵蝕?，F(xiàn)在社會運行靠人的智力。可能一開始人交出的是一些不那么重要的智力，但真正重要的東西其實都看起來不重要的東西的匯聚。比如一個決策，在公司里，決策是基于很多人的意見形成，但如果人寫的報告都由AI替代，實際上決策過程已被滲透，人的影響下降了。從這個意義上講，我們確實早就應(yīng)該想一想，人的智力活動被替代之后的影響。
從經(jīng)濟發(fā)展的角度，對很多職業(yè)而言，只要性價比高，AI肯定會被采用，人會丟失越來越多傳統(tǒng)工作。類似的事在歷史上經(jīng)歷多次，這次的根本性不同在于，人的能力被逼到最后一個階段。以前體力不做可以動腦力，現(xiàn)在腦力也（可能）被替換。但人生來也不是為了工作吧？如果不需工作也能生活得很好，這也不是壞事。
根本問題在于，人類原本認為自己是萬物之靈長，當(dāng)?shù)厍蛏献罡咧橇Φ奈锓N地位被挑戰(zhàn)（怎么辦）。從現(xiàn)在開始的一段時間，AI遠沒有人強，但在某些方面比人強，我已有點擔(dān)心人類可能“躺平”。如果努力學(xué)習(xí)20年也未必有人工智能做得好，還要不要努力？如果AI真的超過人類，人（就）不可能超越了，就像猴子永遠不可能超越人類。（AI）對人類信心的打擊已經(jīng)產(chǎn)生，只是社會效益可能還沒反映出來。
第一財經(jīng)：科學(xué)研究或是中性，但可能導(dǎo)向未知的未來，人們對AI發(fā)展既期待又恐懼，您作為科研工作者是怎么想的？前段時間，您簽署了《暫停巨型人工智能研究》公開信。
黃鐵軍：沒有恐懼也沒有期待，應(yīng)該說，你看著它（AI）往前發(fā)展，而作為個體無法改變技術(shù)洪流。我們可以思考，比如能不能慢一點。這基本只是一種呼吁，起不了多大作用，但至少也提醒大家前面有危險。不可能攔住人群不要往前跑，這不是我們能決定的，人類社會很多方向的發(fā)展都是這樣。
2015年，我寫文章提到，30年左右，AGI就會實現(xiàn)。我說強人工智能、超級人工智能會出現(xiàn)，當(dāng)時很多人不屑一顧，實際上我的意思是制造智能可以在30年左右做出來，理解可能得更長時間，甚至永遠理解不了。如果它（超越人類智力的AI）做出來了，控制者不是人了，你能做的就是做一定的適應(yīng)。適應(yīng)過程可能有沖突，也可能平滑過渡。人類如果不那么（堅持）認為自己是天下的主人，（到時）也過上衣食無憂的生活，至少這是一個選項。
智能本來就在演化，怎么能永遠停留在人類現(xiàn)在的水平上？生物進化速度有點慢，現(xiàn)在換了一個載體（AI），進化加速了，可能人類永遠解決不了的問題，在新的智能時代得到解決。比如，人類還沒走出地球這個舒適圈，新的智能體有可能解決星際旅行問題。現(xiàn)在我們好像在一個安全的搖籃里生活，實際上對宇宙中很多危險沒有解決方案?？茖W(xué)家針對復(fù)雜的問題還在努力，但或許找不到辦法，如果這時更強的智能系統(tǒng)找到辦法，我們就往前跨一大步。
（文章來源：第一財經(jīng)）
Tags:
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風(fēng)險，讀者在采取與本文內(nèi)容相關(guān)的任何行動之前，請務(wù)必進行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負任何責(zé)任。
