上觀新聞
2023-12-20 
奇點逼近，我們何為？
2023年12月8日，技術(shù)奇點與量子思維演講辯論會在華東師范大學(xué)普陀校區(qū)思群堂舉行。來自人工智能、量子研究和人文社會領(lǐng)域的專家圍繞最前沿的新技術(shù)及其社會影響發(fā)表了演講，為聽眾分享了充滿智慧火花的深度思考。
奇點逼近，量子時代應(yīng)該培養(yǎng)什么樣的人？
最早提出“技術(shù)奇點”概念的美國數(shù)學(xué)家弗諾·文奇，將奇點定義為人工智能超過人類智力極限的時間點，在那一刻以后世界的發(fā)展將會超出人類的理解范疇。盡管隨著2023年以ChatGPT為代表的大語言模型取得了突破性的進(jìn)展，使人們更加擔(dān)憂人工智能對人類命運帶來的挑戰(zhàn)，但大多數(shù)人并不是反對大語言模型這種技術(shù)本身，而是希望更謹(jǐn)慎、更負(fù)責(zé)任地進(jìn)行研究和開發(fā)。
拋開對技術(shù)奇點來臨的擔(dān)憂，我們更應(yīng)該考慮：人類需要怎樣改變思維來面對技術(shù)奇點的到來。我們不知道技術(shù)奇點之后科學(xué)技術(shù)的形態(tài)及其變遷趨勢，但我們知道它一定迥異于我們現(xiàn)有的認(rèn)知模式——技術(shù)奇點既可能讓科技蛻變?yōu)閼以谌祟愵^頂?shù)倪_(dá)摩克利斯之劍，也可能成為駝載人類跨入全新時代的蒼龍。
相對于基于牛頓力學(xué)的經(jīng)典物理思維，基于量子力學(xué)的量子思維讓我們意識到人類所熟知的世界僅僅只是特例，不確定性才是通則。技術(shù)奇點和量子思維都告訴我們，明天不會是今天的延長線，我們要在思想上做好應(yīng)對世界躍遷式發(fā)展和跨界超限的準(zhǔn)備。
從知識教育轉(zhuǎn)換到思維教育意味著在育人實踐中我們要積極鼓勵學(xué)生超越“學(xué)科”和“專業(yè)”的藩籬。那是因為：知識的專業(yè)學(xué)科是人為劃定的，不代表真實世界和真實的問題與挑戰(zhàn)。陷于單一或者某些專業(yè)學(xué)科知識或者技能學(xué)習(xí)的人，很容易形成“學(xué)科專業(yè)性格”，甚至某種偏執(zhí)。如此培養(yǎng)的人，根本無從面對大語言模型與技術(shù)奇點帶來的嚴(yán)峻挑戰(zhàn)。
在愛（AI）中，世界是如何量子化的
2022年11月30日OpenAI發(fā)布了ChatGPT，ChatGPT不同于之前所有的人工智能技術(shù)，其最重要的核心在于模型足夠“大”。大語言模型有理解語言、翻譯文本、摘要總結(jié)，回答問題的能力，它甚至能理解你的笑話。研究表明當(dāng)模型參數(shù)超過1000億時，很多未知的能力涌現(xiàn)出來，其中最重要的是邏輯推理的能力和思維鏈的能力。
ChatGPT的工作機制并不神秘，它由兩部分組成。第一部分是生成式預(yù)訓(xùn)練轉(zhuǎn)換器，做的工作就是壓縮，把大量的信息壓縮到一個神經(jīng)網(wǎng)絡(luò)，從信息中抽取特征，壓縮到神經(jīng)網(wǎng)絡(luò)的節(jié)點；從信息當(dāng)中抽取關(guān)聯(lián)，把這個關(guān)聯(lián)壓縮到神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)上。第二部分是基于人類反饋的增強學(xué)習(xí)，這部分做的事是膨脹，將壓縮后很小的神經(jīng)網(wǎng)絡(luò)，再次膨脹成一個可以跟我們交互的模型。壓縮的過程容易理解，把整個人類文明交給它，它壓縮成一個很好的神經(jīng)網(wǎng)絡(luò)，但膨脹的過程仔細(xì)想想并不那么簡單。這種膨脹的核心就是以疊加態(tài)存在的潛在空間，所有狀態(tài)都是潛在的，你不去觀測它，它就不存在，它就不實相化，這是量子力學(xué)里很重要的觀念。對ChatGPT來說，它已經(jīng)以潛在的方式有了未來將要生成的所有的句子，唯一等待的是你去提問它。“薛定諤觀測他的貓，今天的人類觀測ChatGPT的句子。”在壓縮與膨脹之間，我們的現(xiàn)實世界就被量子化了。
隨著我們世界的量子化，技術(shù)奇點帶來了世界觀的巨震：從原來經(jīng)典物理的世界觀變?yōu)榱孔游锢淼氖澜缬^。概率的潛在性世界取代了我們所熟知的確定性“現(xiàn)實”。人類社會最終極的目的是發(fā)展多樣性，因為每個人都不一樣，我們的軟件（大腦）與硬件（身體）綁定，我們是可朽的。但是AI不一樣，AI的硬件和軟件是分離的，軟件可以被無窮復(fù)制。想象一下，如果你可以完全被復(fù)制100個，那你還稱之為“你”嗎？
發(fā)展人工智能，暫停超級智能
現(xiàn)在人工智能進(jìn)步的速度令人驚嘆。人工智能教父之一約書亞·本吉奧透露ChatGPT-4已經(jīng)掌握了足夠好、足夠多的語言和知識。人工智能教父阿蘭·圖靈本人預(yù)測：一旦人工智能機器通過圖靈測試，它們將變得比人更聰明。在那之后，機器將接管控制權(quán)。不僅僅是圖靈擔(dān)心這樣的事情，OpenAI的首席執(zhí)行官薩姆·奧爾特曼說糟糕的情況是對我們所有人來說燈將是熄滅的。今年5月，當(dāng)時西方領(lǐng)先的通用人工智能公司的所有首席執(zhí)行官都站出來表示，應(yīng)該認(rèn)真對待人工智能的風(fēng)險。
現(xiàn)在最大的問題是，我們不知道如何控制比我們更聰明的人工智能。我們正在走向通用人工智能，甚至可能是超級智能，這將是地球生命史上的巨變。但這并不意味著我們應(yīng)該停止人工智能的發(fā)展，人工智能可以幫助人類做絕大多數(shù)事情，解決可持續(xù)發(fā)展目標(biāo)或生產(chǎn)具有商業(yè)價值的產(chǎn)品和服務(wù)。但這些并不需要超級智能。一句話，我們不應(yīng)該暫停人工智能，而應(yīng)該暫停對超級智能的瘋狂追求。
古希臘著名神話伊卡洛斯的故事，警告我們不要試圖扮演上帝的角色。伊卡洛斯可以飛，但他太貪心了，試圖飛向太陽，結(jié)局當(dāng)然是悲劇的。現(xiàn)在的情況對于中國、對于美國、對于全人類來說都是一樣的。人工智能為我們提供了令人難以置信的智力翅膀，可以用它來做超出我們能力的很多事情，如果我們避免過于貪婪或癡迷地試圖飛向太陽。從文明的意義而言，尼安德特人戰(zhàn)勝了猛犸象，智人最終戰(zhàn)勝了尼安德特人，作為智人后代的現(xiàn)代人類，我們比猛犸象、能人、尼安德特人都聰明，是一個新物種，我們最終控制了這個世界，而前者都已不復(fù)存在，所以我們不能在人工智能方面犯半點錯誤，我們需要保持控制力。
量子力學(xué)：實在與認(rèn)識之間的界面
量子力學(xué)作為科學(xué)理論，可以看成客觀實在和人類認(rèn)識之間的界面，通過這個界面可以加深我們對這個世界的認(rèn)識。101年前的1922年，20世紀(jì)最偉大的物理學(xué)家愛因斯坦路過上海，在上海獲悉他獲得1921年的諾貝爾物理學(xué)獎，表彰他的光電效應(yīng)定律。而光電效應(yīng)定律是他的光量子論的應(yīng)用。愛因斯坦本人說過，他思考量子論的時間要遠(yuǎn)遠(yuǎn)超過他思考相對論的時間。
20世紀(jì)20年代，量子力學(xué)建立，以后的100年里，量子力學(xué)取得了巨大的成就，成為整個微觀物理學(xué)的理論框架，解釋和描述了物質(zhì)世界，比如超導(dǎo)體、太陽能、宇宙背景輻射等物理現(xiàn)象。不僅在基本理論上，在應(yīng)用方面，很多材料、能源和信息的技術(shù)也是建立在量子力學(xué)的基礎(chǔ)上，例如激光、半導(dǎo)體、存儲技術(shù)等。為什么人工智能能夠處理這么多的數(shù)據(jù)？其硬件基礎(chǔ)是基于量子力學(xué)的。在20世紀(jì)90年代，美國的諾貝爾獎得主萊德曼就說過三分之一的美國國內(nèi)生產(chǎn)總值跟量子力學(xué)有關(guān)。所以，量子力學(xué)可以說是現(xiàn)代文明的重要基礎(chǔ)。
量子力學(xué)的一個關(guān)鍵概念是概率。2022年，正好是愛因斯坦獲得諾獎100年以后，諾貝爾物理學(xué)獎授予了研究量子糾纏的實驗物理學(xué)家，他們用量子糾纏的光子驗證大自然確實違反了貝爾不等式。100年來全世界都見證了量子力學(xué)的輝煌。
了解量子世界有什么用？
了解量子世界有什么用？很多人提出這個問題，我認(rèn)為最大的用處就是對你的思想有啟發(fā)作用，量子力學(xué)將會改寫你的世界觀，你的世界觀會決定你的人生觀和價值觀。量子思維告訴我們，微觀世界發(fā)生的事跟宏觀世界完全不一樣，量子力學(xué)揭示了真實世界不符合人類的直覺，這一點也值得慶幸，正是因為這樣，真實世界才有無數(shù)值得我們繼續(xù)探索的東西，讓這個世界不是無聊而是有趣。
量子力學(xué)告訴我們六件事：第一件事叫既在這里又在那里。宏觀世界是“或者”的關(guān)系，量子世界是“既又”的關(guān)系。簡單說就是事物可以處于疊加態(tài)，包括著名的薛定諤的貓。第二件事是因果論的“坍塌”。世界可能是概率性的，愛因斯坦說上帝不會擲篩骰子決定事件的發(fā)生與否，但量子力學(xué)中事物發(fā)生具有內(nèi)在的隨機性。第三件事是量子隧道效應(yīng)。穿墻術(shù)在宏觀世界是不存在的，但是在微觀世界是經(jīng)常發(fā)生的。第四件事是“無”中生“有”。能量的些微漲落可以導(dǎo)致宇宙的誕生，我們到底從哪里來顛覆認(rèn)知。第五件事是量子糾纏。本地和遙遠(yuǎn)的事物之間存在某種超距離的協(xié)調(diào)。第六件事是宇宙參數(shù)微調(diào)。整個宇宙的物理學(xué)是否經(jīng)過精心設(shè)計？
總之，量子力學(xué)告訴我們，真實物理世界遠(yuǎn)非我們想象的那個樣子，理解量子世界必須跳開傳統(tǒng)思維框架，也正是因為如此，我們生活的這個此岸世界值得每個人在一生中認(rèn)真體驗。
純粹潛能與量子思維
以ChatGPT為代表的大語言模型，盡管才剛剛進(jìn)入人類的視野中，但已經(jīng)在知識實踐上展現(xiàn)出卓越能力，成為堪稱“通”家的大“專”家。我們可以用“模擬模式”與“數(shù)字模式”來分別描述人類（“智人”）與大語言模型的知識實踐。大語言模型問世前的人工神經(jīng)網(wǎng)絡(luò)算法，“數(shù)字模式”僅僅令其在各狹窄的垂直領(lǐng)域內(nèi)展露出卓越智能；然而以海量人類文本為訓(xùn)練數(shù)據(jù)的大模型，其知識實踐則呈現(xiàn)出無視領(lǐng)域疆界的通用性。
面對大語言模型在知識實踐上的碾壓，我們不能躲在知識實踐的舒適區(qū)，而是要努力踐行知識的越界“雜交”。作為“智人”，我們看似有理由、但其實沒有任何理由去躺平——潛在論與量子物理學(xué)，給出了我們積極展開跨學(xué)科知識實踐的理據(jù)。
政治哲學(xué)家阿甘本將人界定為“一種純粹潛能的存在”。從神經(jīng)科學(xué)角度來看亦如是，人的潛能，遠(yuǎn)遠(yuǎn)大于其實現(xiàn)出來的部分。人，可以從其純粹潛能中實現(xiàn)出來新事物，這就是原創(chuàng)性的創(chuàng)造。同人類相比，大語言模型具有潛能，但不具有潛在論意義上的純粹潛能。ChatGPT能夠跨越學(xué)科疆界生成極富知識含量的文本，但它做不到徹底原創(chuàng)性地生成新知。
量子物理學(xué)家們揭示出了一個詭異的量子現(xiàn)實。這是一個人不可能完整了解的現(xiàn)實——你能知道一個對象的動量，就注定會不知道其位置，知道位置就不知道動量。并且，量子現(xiàn)實不是另外的現(xiàn)實，就是我們的當(dāng)下現(xiàn)實。物理學(xué)家約翰·惠勒的“參與性宇宙”思想實驗更表明，我們每個人的觀察恰恰是非常重要的，人的認(rèn)知實踐在大模型時代仍然具有獨特的重要性。
在大語言模型一往無前的后人類主義地平線上，我們?nèi)匀豢梢员Ｓ形覀兊闹腔郏匀豢梢宰鲆粋€名副其實的“智人”。
（文章來源：上觀新聞）
Tags:
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認(rèn)可。 交易和投資涉及高風(fēng)險，讀者在采取與本文內(nèi)容相關(guān)的任何行動之前，請務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。
