九九热视频精品在线_国产成人mv视频在线观看_国产精品三级一区二区_亚洲精品国产av成拍色拍婷婷_久久伊人一区二区_国产高清精品网站_九九99热久久精品离线6_国产在线一卡2卡三卡4卡免费_日韩美女乱淫aaa高清视频_亚洲大胆_啪啪一级视频_午夜av免费观看_国产高清精品福利私拍国产写真_亚洲婷婷五月综合狠狠_日韩欧美一区二区三区视频_岛国av免费看_精品国产乱码久久久久久久软件_亚洲国产成人精品无码区99_www日本色_免费黄色看片

圖片來源@視覺中國(guó)

文 | 追問nextquestion

11月26日上午，上海圖書館（東館）迎來了一場(chǎng)科技與幻想的巔峰碰撞。在這里，數(shù)字生命與意識(shí)上傳，已不再是遙不可及的科幻設(shè)想，而是一個(gè)在我們眼前循序展開的未來。

此次會(huì)議是由天橋腦科學(xué)研究院（中國(guó)）主辦的「數(shù)字生命與意識(shí)上傳」系列研討會(huì)的先導(dǎo)篇，邀請(qǐng)北京大學(xué)人工智能研究院助理研究員杜凱及著名科幻翻譯和科幻作家顧備對(duì)話座談，由喜馬拉雅類星體科幻劇場(chǎng)制作人得聞主持。三位嘉賓來自不同領(lǐng)域，帶我們一同探索了數(shù)字生命的可能性，更直面意識(shí)上傳的倫理邊界。數(shù)字生命是否注定超越我們的掌控？意識(shí)是否能夠被真實(shí)地轉(zhuǎn)化成冰冷的代碼？這是一場(chǎng)思想的深度挑戰(zhàn)，關(guān)乎人類對(duì)未知的勇敢探求。在這個(gè)未知空間中，我們將縱身一躍，穿越科技與意識(shí)的迷霧，探尋新興未來。

本文通過追問形式呈現(xiàn)談話中的精彩內(nèi)容，希望能給讀者一些啟發(fā)和思考。

@得聞：作為科幻作家，顧備老師平時(shí)會(huì)持續(xù)追蹤科學(xué)的發(fā)展動(dòng)向嗎？

@顧備 ：會(huì)的，科幻協(xié)會(huì)下屬于科協(xié)，所以科普也是我們協(xié)會(huì)相對(duì)重要的一環(huán)。我們一直想把科技和科幻融合起來，也就是科幻賦能科技創(chuàng)新，科技賦能科幻創(chuàng)意。

@得聞：身為一名科學(xué)家，請(qǐng)問杜凱老師從事科學(xué)行業(yè)是否有受到科幻的影響？

@顧備 ：很多時(shí)候，科幻和科技兩者的分界線不是大家想象的那么明顯。回到十年前，如果有人說我們有一天會(huì)實(shí)現(xiàn)強(qiáng)人工智能、擁有強(qiáng)大的基因工具可以隨意修改人的基因，我們會(huì)認(rèn)為這是科幻小說里出現(xiàn)的場(chǎng)景，但現(xiàn)在這些（話題）已經(jīng)處于科學(xué)的范疇了。如果不具備科幻作家那樣的想象力，我們就沒法去掌握未來的科學(xué)會(huì)是什么樣的。

@得聞：能否介紹一下您的科學(xué)研究領(lǐng)域？

@杜凱 ：20年前，我站在人生的轉(zhuǎn)折點(diǎn)上，有兩個(gè)選擇。03年的時(shí)候，我特別看好房地產(chǎn)，但后來收到了哥本哈根大學(xué)的錄取通知書，最后選擇了去求學(xué)。有時(shí)候會(huì)覺得自己錯(cuò)過了“10個(gè)億”的房子，到后來導(dǎo)致我會(huì)考慮自己做的研究值不值得當(dāng)年放棄那“10個(gè)億”的選擇。在20年前，我做的研究就很科幻，我想模擬人的大腦來實(shí)現(xiàn)AI，以及探討如何將人的大腦和AI聯(lián)系起來。

@得聞：《流浪地球2》中提到數(shù)字生命派這么一個(gè)流派，劉德華飾演的角色圖恒宇將女兒圖丫丫瀕臨死亡前的意識(shí)上傳到了U盤上，同時(shí)將這份數(shù)據(jù)保存到了超級(jí)電腦550A中。數(shù)字圖丫丫開始產(chǎn)生了一些自我意識(shí)，并可以保存2分鐘的生命。直到圖恒宇把這份數(shù)據(jù)傳輸?shù)礁鼜?qiáng)大的550W上，圖丫丫的生命得以延長(zhǎng)到70余年。兩位對(duì)這個(gè)情節(jié)作何感想？

?數(shù)字生命圖丫丫，圖源：Midjourney

@顧備 ：其實(shí)在《流浪地球》影片上映前，劇組上映的先導(dǎo)片就暗示了數(shù)字生命這個(gè)話題。這引發(fā)了一個(gè)問題：為什么電影里的數(shù)字生命要做數(shù)學(xué)題？這與最近OpenAI事件頗為相似，這家公司內(nèi)部發(fā)現(xiàn)有個(gè)叫Q*的AI，它會(huì)做數(shù)學(xué)邏輯推理。一旦AI可以處理復(fù)雜的數(shù)學(xué)推理，那它或許也能在物理和化學(xué)領(lǐng)域進(jìn)行推理，這可能使它比人類更早地理解世界的本源。看到這里，我首先想到的是，意識(shí)怎么上傳？上傳后的意識(shí)還是不是你？技術(shù)發(fā)展路線將在什么時(shí)候?qū)崿F(xiàn)這一點(diǎn)？

@杜凱 ：我認(rèn)為這是《流浪地球》的一大亮點(diǎn)。電影里的某些設(shè)計(jì)從科學(xué)角度也是可以解釋通的。其實(shí)，我們似乎也生活在一個(gè)虛擬的世界中。有時(shí)，我們需要區(qū)分自己看到和感知到的信息。我們對(duì)周圍世界的理解，是由視網(wǎng)膜對(duì)外界的解讀重建而成，而每個(gè)人在這個(gè)感知重建的過程中的體驗(yàn)都是獨(dú)一無二的。在每時(shí)每刻，大腦都在虛構(gòu)虛幻的世界，然后把我們真實(shí)感受到的世界疊加其中。這個(gè)疊加過程通常非常迅速，以至于除了精神病患者和極具天賦的畫家之外，大多數(shù)人難以察覺其中的微小時(shí)間差。

我們普通人所感知的光線通常是連續(xù)平滑的。但在梵高的《星空》中，物體的邊緣是不連續(xù)的，因?yàn)樗拇竽X所感知到的光線是片段式的。畢加索后期的作品也展示了類似的風(fēng)格。用夸張的方式來說，他們感知到的世界就是如此。所以，在某種意義上，我們每個(gè)人也都生活在自己構(gòu)建的虛幻世界中。從這個(gè)角度看，人和機(jī)器也沒有太大區(qū)別。

?圖注：梵高感知到的世界；圖源：The Museum of Modern Art

@得聞：人工智能的定義就是讓機(jī)器模擬人類的智能，請(qǐng)問類腦智能和之前人工智能在邏輯方式上有什么區(qū)別？

@杜凱 ：AI在歷史上有很多流派，比如符號(hào)主義、連接主義。在連接主義中，神經(jīng)元之間通過互相連接來完成某種任務(wù)，這個(gè)流派提出后火過一段時(shí)間又沉寂了；2006年，深度學(xué)習(xí)的出現(xiàn)提高了網(wǎng)絡(luò)規(guī)模和參數(shù)；再到2010年左右，隨著新型算法和硬件架構(gòu)的加入，慢慢以人工神經(jīng)網(wǎng)絡(luò)為代表的模型范式席卷了AI領(lǐng)域。計(jì)算神經(jīng)科學(xué)也是研究神經(jīng)元之間的連接，但和AI不同的是，計(jì)算神經(jīng)科學(xué)更注重和生物大腦的相似性，更側(cè)重關(guān)注真實(shí)的大腦；而AI則更側(cè)重關(guān)注機(jī)器。

@得聞：大模型AI的規(guī)模和人腦的參數(shù)規(guī)模相比是怎樣的？

@杜凱 ：人腦約860億個(gè)神經(jīng)元，每個(gè)神經(jīng)元上面大概又有1萬多個(gè)突觸。保守估計(jì)，人腦的參數(shù)量是ChatGPT的4-5倍，比機(jī)器要復(fù)雜得多。

@得聞：大腦算力能量消耗小，是否更節(jié)能？

@杜凱 ：這可能是一個(gè)偽命題，因?yàn)楝F(xiàn)在的芯片是通用性芯片，如果只是針對(duì)神經(jīng)網(wǎng)絡(luò)開發(fā)芯片，算力消耗可以更小。并且在專業(yè)能力上，大模型AI的效果遠(yuǎn)遠(yuǎn)超越了人。比較特殊的是，人會(huì)談戀愛、生氣，這些都是需要能量的，但大模型不需要。大模型強(qiáng)調(diào)內(nèi)推，但人擅長(zhǎng)外推，人可以在兩種本不相關(guān)的體系知識(shí)下進(jìn)行外推。

@得聞：對(duì)大腦有更好的模擬后，意識(shí)有可能被模擬嗎？

@杜凱 ：從技術(shù)上模擬人類意識(shí)是可行的。至少“從0到1”的這一步已經(jīng)開啟了，后面的道路還需要慢慢走。

@得聞：常見的科幻作品是如何描述意識(shí)上傳的？

@顧備 ：科幻界一直在討論這個(gè)話題。我印象比較深的是《尤比克》（Ubik）中的觀點(diǎn)：人臨近死亡時(shí)，他們的意識(shí)可以被暫時(shí)凍結(jié)，并且可以被多次激活，直至最終逐漸消逝。而在《神經(jīng)漫游者》中，死者的意識(shí)被儲(chǔ)存于黑盒中，當(dāng)需要執(zhí)行任務(wù)時(shí)，這個(gè)黑盒便被激活。《黑客帝國(guó)》、《盜夢(mèng)空間》則直接通過腦機(jī)接口或者其他方式進(jìn)入意識(shí)。這些作品不僅僅探討了意識(shí)本身，還深入思考了生命的本質(zhì)。雖然科幻小說充滿了無限的想象，但核心問題仍然是：什么是意識(shí)？什么是生命？低等生命是否擁有意識(shí)？我們身體的細(xì)胞是否具備意識(shí)？這些問題是否有明確的定義？

@得聞：科學(xué)界對(duì)意識(shí)是怎樣定義的？

@杜凱 ：ChatGPT的出現(xiàn)讓我們覺得，至少模擬意識(shí)是可能的。這也給我們提供了一種新的思考方式，就是也許我們沒有必要去定義意識(shí)，我們只要能夠產(chǎn)生意識(shí)就足夠了。意識(shí)可能不是被事先定義的，而是涌現(xiàn)出來的。例如，在學(xué)習(xí)各種知識(shí)的過程中，一個(gè)大規(guī)模的網(wǎng)絡(luò)突然就產(chǎn)生了意識(shí)。如果意識(shí)以這種涌現(xiàn)的方式出現(xiàn)，我們也許真的沒辦法定義意識(shí)。

@得聞：那是不是可以理解為，針對(duì)意識(shí)、情感方向的研究，過去我們是先有理論再著手研究，而現(xiàn)在我們先嘗試去做，再看產(chǎn)生的是否是類似于人類意識(shí)和情感的東西？

@杜凱 ：是的。傳統(tǒng)上，科學(xué)研究是自上而下的方式進(jìn)行的。但由科學(xué)問題驅(qū)動(dòng)的研究方法可能無法解決意識(shí)的問題，我們可能需要通過工程方法來探索是否能夠產(chǎn)生意識(shí)。

@得聞：如何定義生命和數(shù)字生命？

@顧備 ：我覺得很多東西無法完全定義，甚至很多時(shí)候我們會(huì)之前的定義是錯(cuò)的。如果從更高的維度考慮，無論是繁殖還是進(jìn)化，生命為了生存，都會(huì)展現(xiàn)出高度的協(xié)同現(xiàn)象。以計(jì)算機(jī)病毒和人類病毒的類比，計(jì)算機(jī)病毒在進(jìn)入電腦之前是沒有生命的，但進(jìn)入電腦中開始利用內(nèi)存進(jìn)行復(fù)制和變異，使得殺毒軟件也難以察覺。如果計(jì)算機(jī)病毒能夠模仿生物病毒，那么仿制人類生命也不是不可能的。正如余老師所說，我們看到的不一定是真實(shí)的，大腦會(huì)自動(dòng)填補(bǔ)信息的空白。

@得聞：如果我們很難達(dá)到一個(gè)大家都認(rèn)同的數(shù)字生命概念，那從個(gè)人角度您認(rèn)為數(shù)字生命需要什么特征？

@杜凱 ：有一個(gè)概念叫做臨界態(tài)，任何東西數(shù)量達(dá)到一定量級(jí)就會(huì)出現(xiàn)一種自組織的現(xiàn)象。這種自組織的方式會(huì)使之達(dá)到一個(gè)處于兩者之間切換的臨界狀態(tài)。當(dāng)你的系統(tǒng)達(dá)到臨界態(tài)的時(shí)候，對(duì)外界的輸入輸出就會(huì)變得非常敏感。我們認(rèn)為大腦就像海平面一樣，有時(shí)候大群神經(jīng)元反應(yīng)會(huì)形成一種漩渦一樣的吸引子狀態(tài)，這個(gè)時(shí)候其他的噪音對(duì)大腦的影響就不大了。但是在科學(xué)研究中，一個(gè)東西不可被定義是危險(xiǎn)的。科學(xué)與宗教的區(qū)別是，科學(xué)可以被證實(shí)或者證偽。如果我們目前還無法具體定義意識(shí)是什么，我們可以換個(gè)角度來考慮：意識(shí)何時(shí)出現(xiàn)？何時(shí)變得有意識(shí)？

@得聞：從一個(gè)實(shí)例來看，ChatGPT這種具備推理能力的形態(tài)，可以被稱為數(shù)字生命的最初形態(tài)嗎？

@顧備 ：人類在使用工具的時(shí)候特別喜歡擬人化，所以人類老想把數(shù)字生命也擬人化。但數(shù)字生命可能是一種波、一種能量或者以一種信息的狀態(tài)存在，最終的數(shù)字生命存在方式不一定和人一樣。

@杜凱 ：這里存在一個(gè)問題，如何把認(rèn)知科學(xué)和大語言模型連接起來。很多職業(yè)需要和心理結(jié)合起來，需要經(jīng)過特定的心理測(cè)試。面對(duì)未來，我們?nèi)绾卧u(píng)估大型模型的心理狀態(tài)？我們?cè)撊绾未_保它們不會(huì)隱藏自己的心理特性？甚至，大型模型是否可能在不自知的情況下發(fā)展出意識(shí)？從科學(xué)的視角來看，這些想法似乎并非不可能。

@得聞：是否可以選擇另一條路徑，讓AI自己進(jìn)化“生命”，而不是模擬人類生命？

@杜凱 ：在用數(shù)字訓(xùn)練數(shù)字的過程中，我們需要一個(gè)參照模型。AI可能走向邪惡，或許會(huì)陷入無解的困境。無限制的人工智能可能無解，要么我們可以忍受低智能的人工智能模型，要么完全釋放去擁抱無限制的人工智能。雖然人類可能不擅長(zhǎng)處理專業(yè)的任務(wù)，但我們擅長(zhǎng)在混亂中尋找清晰、可行的路徑。

@得聞：所以兩位都算是科技樂觀者嗎？

@顧備 ：也不全是。以O(shè)penAI為例，存在有效加速派和超級(jí)對(duì)齊派兩個(gè)流派。超級(jí)對(duì)齊派堅(jiān)持要求人工智能符合人類要求，其核心目標(biāo)是造福人類。有效加速派則認(rèn)為科技的發(fā)展是不可阻止的，人工智能的發(fā)展也是如此。他們相信，當(dāng)人工智能發(fā)展到一定程度，一定可以用科技制約科技。大家為什么對(duì)數(shù)字生命感興趣？因?yàn)檫@可能讓人類生命達(dá)到永生，或者替換人生。如果我們能實(shí)現(xiàn)永生，那么是否可以超越肉體的低級(jí)欲望，追求更高層次的精神目標(biāo)？然而，這也可能引發(fā)新的貧富差距問題，因?yàn)橘Y本和科技的飛速發(fā)展可能超出了普通人的理解范圍。

@杜凱 ：我其實(shí)是“科技無奈派”，樂觀悲觀都沒用。在商業(yè)領(lǐng)域，人們追求性能越強(qiáng)大越好，而另一派覺得大模型過于可怕，出于倫理考慮應(yīng)當(dāng)停止發(fā)展。OpenAI的理想主義者認(rèn)為應(yīng)當(dāng)停止這種追求，而不是單純?yōu)榱擞Ｈ祟惖氖虑椋坏┖徒疱X利益掛鉤，就容易出現(xiàn)問題。在人類進(jìn)化過程中，競(jìng)爭(zhēng)是刻在我們基因里的。要實(shí)現(xiàn)真正偉大的事情，往往需要違背舊有的理念。我們不應(yīng)過于相信任何事物，也不應(yīng)被輿論操控。技術(shù)的發(fā)展會(huì)超出人類的想象。

觀眾提問

Q：AI缺乏生命的自我激勵(lì)機(jī)制，如何涌現(xiàn)自我意識(shí)？如果要出現(xiàn)，會(huì)出現(xiàn)的內(nèi)在機(jī)制是什么？

@杜凱 ：技術(shù)上來說，AI的進(jìn)化可以按照我們推論的方向進(jìn)行。現(xiàn)在比較意外的是，雖然AI需要吸收人類的知識(shí)，但是它在某些方面學(xué)的比人還好，甚至是在邏輯推理能力上。然而，如果人工智能出現(xiàn)自我激勵(lì)現(xiàn)象，比如它們開始自行修改底層代碼，那將是非常危險(xiǎn)的。至少目前來說，技術(shù)上還沒到這一步。

@顧備 ：人類是貪婪的，樂于競(jìng)爭(zhēng)、有強(qiáng)烈欲望的，所以會(huì)激勵(lì)人類去進(jìn)化。反過來說，AI不具有這些特性可能是好事。

Q：數(shù)字生命是否有周期？情感和情緒是否也可以像意識(shí)一樣上傳？

@杜凱 ：我們或許可以通過拔電線來結(jié)束AI的生命。人很多東西都可以參數(shù)化，理論上把這些參數(shù)上傳就可以有數(shù)字生命。但這肯定不是以硬盤的形式上傳。情感和意識(shí)可能是涌現(xiàn)出來的。人有不確定性，有隨機(jī)性。大模型是真的像你，還是只是在模擬？大模型是真的意識(shí)，還是只是在擬合意識(shí)的結(jié)果？還需要驗(yàn)證。

@顧備 ：迭代可能算是一種生命周期。在每一個(gè)AI版本的發(fā)展中，代碼和功能都經(jīng)歷著更替。但存儲(chǔ)于內(nèi)存中的記憶是動(dòng)態(tài)變化的，可以隨時(shí)增加隨時(shí)刪減。所以它沒法升級(jí)或迭代，也就很難跟“周期”來匹配。情感，隨著年齡的增長(zhǎng)而變化，它依賴于當(dāng)時(shí)當(dāng)?shù)氐那榫澈瓦^往的經(jīng)驗(yàn)。情感是無法復(fù)制的，即便一個(gè)人重返過去，他在情感和感知層面也不可能完全相同。

Q：即使人類曾造出了原子彈，目前人類依然存在。所以我們是否應(yīng)該對(duì)AI的發(fā)展持樂觀主義。

@杜凱 ：核武器的生成是確定的東西，可以自我控制。相比之下，AI的危險(xiǎn)在于它是涌現(xiàn)的，可能不可控。實(shí)現(xiàn)永生有兩種方式，一種是通過虛擬世界、數(shù)字生命，另一種通過文字把思想流傳。我現(xiàn)在更贊同第二種。

@顧備 ：有個(gè)說法，科學(xué)的盡頭是哲學(xué)，哲學(xué)的盡頭是神學(xué)。也許人類可以和AI一起，共同進(jìn)化。

Q：法學(xué)具有一定的滯后性，只有當(dāng)事情出現(xiàn)之后，才會(huì)有法律去規(guī)避、懲罰它。請(qǐng)問大模型AI可能具有涌現(xiàn)功能，對(duì)法學(xué)有什么啟示嗎？

@顧備 ：法律通常是滯后的，但肯定也有一群人會(huì)研究倫理道德，倫理道德委員會(huì)在某種程度上是從法律角度出發(fā)，對(duì)新技術(shù)進(jìn)行制約。

@杜凱 ：法律的設(shè)定一定要合適。它既不能過度禁止導(dǎo)致約束我們的發(fā)展，也不能讓AI危害到人類。我個(gè)人覺得，法律不應(yīng)直接判定哪些AI應(yīng)該被開發(fā)，哪些不應(yīng)該，因?yàn)檫@等同于定義AI的發(fā)展路徑。重要的是確保AI發(fā)展過程中信息的透明度。