新火種
2023-12-27 
陳沖：夢中呼喊的人
（圖片來源：受訪者供圖）
致友人：
認識這么多年了我還是第一次這樣給你寫信，這個年頭誰還通信啊。我十五歲就開始出外景，有挺長一段時間非常依戀寫信?；仡^看，這樣充滿孕育和等待的交流簡直是一種儀式——好比祈禱——為心靈帶來溫暖和安撫，甚至升華。寫信、折信、封信、貼郵票，漿糊用完了用米粒兒，最后把信投到郵筒里，開始等待對方的回應。時間流淌得很慢，“未來”離得很遠，讓我無限憧憬。從什么時候開始，時間成了Time-lapse拍的鏡頭，一轉眼就不見了？從什么時候開始，未來成了巨浪，撲面而來？
第一次聽說ChatGPT，是你告訴我的。你說，很高興看到GPT現(xiàn)在增加了強化學習，有了更好的探索/利用平衡。我一直在批評big pre-trained transformer model, 它能很好地進行“利用”，但缺乏“探索”?，F(xiàn)在使用強化學習彌補了這一點。新的GPT變得非常強大，試著玩玩看吧。那是2022年的12月，正遇母親一周年忌日。
記得母親在世時，我跟她說起過AI——她嚴重失憶，無論說什么都會在半分鐘里忘記，聊天只是為了陪她度過時光——我信口開河地胡說，現(xiàn)在有一種機器人，能解答所有的問題，懂得所有的語言，隨時自我完善，還有無限的記憶力，厲害吧？你要不要買一個？她說，那么靈啊，那每一個笨小孩都應該有一個，帶著它去學校。我覺得她的話挺逗的，她本能地覺得聰明的小孩不需要。其實沒人需要AI，只是它被爭先恐后地創(chuàng)造出來了，我們也必須爭先恐后地去使用它。
2022年圣誕節(jié)前后，舊金山上空來了一條“大氣層河流” ，暴雨把窗外的世界變得一片模糊，我仿佛在一個現(xiàn)實以外的“水簾洞”中，著迷地玩了幾天ChatGPT——問它尖銳的問題、勾引它說臟話、讓它用我給的規(guī)定情景或人物編故事。我告訴你，我一直在努力讓GPT寫出些出乎意料的有趣情節(jié)，但結果都是最陳腐單調的東西，有點令人失望。在涉及知識時，它表現(xiàn)得很好；在涉及創(chuàng)造力時，它還差得太遠…… 而且GPT被編程得如此一本正經(jīng)，充滿外交辭令，拒絕放肆或“邪惡”。從這個意義上說，它實際上是有偏見的……
你開玩笑說，可憐的ChatGPT，被你這么折磨。我回，問題是你可以折磨它直到你筋疲力盡或老死，它都毫發(fā)無損，怎么跟它競爭?。磕阏f，而且你越折磨它，它越強大。
第一次正式派上GPT的用場，是因為航空公司丟失了彼得托運的高爾夫球棒，管事人說球棒放在超大行李傳送帶上了，那之后不見的就不關航司的事了。我懷著好奇的心理向ChatGPT求助，沒想到一封完整的法務信件瞬間出現(xiàn)在屏幕上，井井有條，面面俱到，振振有詞。沒有ChatGPT我自己也能寫出來，但是為什么要花那么多時間精力去寫一封枯燥乏味的法務信件呢？何況結果還不一定有它寫的那么奏效。
所有這些不再被我們需要的人的能力，所有能省略掉的過程，都將不復存在。這是生命的效率，人是通過如此淘汰進化而來的。過不了幾代人，母親說的“笨小孩”也許就會越來越多了吧——畢竟，掙扎的過程是形成獨立思考的唯一途徑。你和你的同仁們都預言，AI很快會在感知和認知能力以及任務方面超越人類，它將為我們完成95%或者更多的工作，為我們創(chuàng)造巨大的價值。每次聽到這樣的話我都納悶，那人自身的價值呢？
今年五月，好萊塢編劇工會開始罷工游行，其中一個重要的協(xié)商內(nèi)容，就是關于生成性AI的使用規(guī)定。我跟你說，目前AI對我們行業(yè)的影響還沒有真正顯現(xiàn)，但我仿佛看著一個巨大的隕石，燃燒著驚艷火光，以每秒十公里的速度從天邊向我們飛來，像電影《不要抬頭》那樣。你回，AI會是你最好的工具。
同月，你發(fā)來了一封世界尖端AI創(chuàng)造者的聯(lián)名信，其中包括了你的署名，“……在短短幾個月的時間里，從最初只是生成美麗圖像和有趣對話的機器人開始，這一潛力迅速膨脹，導致了一種如此強大的技術，以至于我們現(xiàn)在對其可能產(chǎn)生的影響感到恐懼…… 人類正在因此面臨著滅絕的危險”。增強型通用智能的出現(xiàn)，將徹底改變?nèi)祟惖倪M程，重新建立人與人、人與機器、機器與文明、機器與社會的秩序，而正如尼科洛·馬基雅維利在《君主論》中所說，“沒有任何事比引入和執(zhí)行一個全新的秩序更困難、更危險和無法保障成功”。2023年將載入史冊。
其實，“智能機器”的概念——它作為一個不知疲倦的助手、終極士兵，甚至一個貼心的伴侶——已經(jīng)吸引了人類的想象力數(shù)千年。早在三千年前，荷馬史詩中就描寫了，火神赫菲斯托斯利用他的特殊能力創(chuàng)造了“由金制成的仆人，看起來像活生生的少女”。這些似人的機器“有智慧，有聲音和活力，它們從不朽的神祇那里學到了技藝，整天匆匆忙忙地圍著主人服務”。 這個與文明一樣古老的愿望眼看就要實現(xiàn)了，如此偉大的創(chuàng)舉卻讓我想起一個說法：小心你的愿望。下半句一般不用說出來：它恐怕會成真。Be careful what you wish for（lest it come true)。
從幾百年前開始，作家、藝術家、倫理學家就用他們的著作向世人發(fā)出警示。1818年問世的《現(xiàn)代普羅米修斯》也許是其中流傳最廣泛的吧。在十三年后的再版前言中，作者瑪莉·雪萊描寫了作品最初的愿景：“我閉眼看到了——用敏銳的思維視覺——我看到了一個被褻瀆了的學科的學生，跪在他所創(chuàng)造的東西旁邊。我看到了一個像可怕幻影那樣的男人躺在那里，然后，在一臺強大引擎的作用下，顯示出生命的跡象，并以一種不安的、半有生命的動作掙扎?！?/p>
書中的科學家弗蘭肯斯坦以發(fā)展科學、造福人類的初衷，在實驗室中制造出一個有機的生命，它學會了人的思維、邏輯、言行和感情，也跟人一樣渴望愛與歸屬。但正如它對它的創(chuàng)造者所說的“我本該是你的亞當，卻成了墜落的天使” 那樣，所有遇見它的人都視它為恐怖的怪物，它因此陷入絕望，成了人的仇敵，并殺人報復。弗蘭肯斯坦后悔莫及，天涯海角地追蹤這個他不該創(chuàng)造的生命，發(fā)誓將它毀滅，最終不幸付出了自己的性命。
在對科學的理解還非常局限的年代，這本書對科學和創(chuàng)造的本質提出了精髓的探討。書中的“怪物”雖然不是機械的，但它跟AI引發(fā)出來的倫理問題是相同的：我們的能力與野心是不是應該有禁區(qū)？當我們看到自己的能力與野心在毀滅人類時應該怎么辦？
今天翻開《現(xiàn)代普羅米修斯》，我再次為之驚嘆，如此嫻熟的語言、深邃的哲思、澎湃而細膩的感情、無底深淵的黑暗，竟然出自一位18歲少女的筆下。當然，這不是個一般的少女。
瑪莉從出生就離文學和死亡很近，她的母親——女權主義哲學家瑪莉·渥斯頓克雷福特——生下她不久就去世了，她的父親威廉·戈德溫也是一位重要作家?，斃蜃杂自诟赣H的圖書館博覽群書，并通過父親認識了許多文學界的精英，她后來的丈夫珀西·雪萊也是其中的一位。她與珀西戀愛以后，他的第一個妻子自殺了，瑪莉的三個孩子也相繼在幼年夭折。
失去了第一個孩子之后，再次懷了孕的瑪莉跟珀西、拜倫、妹妹克萊爾啟程去日內(nèi)瓦湖休養(yǎng)。因受到印尼桑巴瑞火山爆發(fā)的影響，那年整個北半球被籠罩在陰霾中，在歷史上被稱為“沒有夏季的一年”。旅途中，瑪莉被大自然的美和嚴峻深深震撼。所見風云的不測、山峰的威嚴、峽谷的神秘、河流的奔騰、森林的幽靜，日后被她重新想象，成為了《現(xiàn)代普羅米修斯》中的場景。
到達日內(nèi)瓦湖畔后，他們?yōu)榱硕惚軔毫拥奶鞖饨?jīng)常聚在屋里聊天，從文學、哲學談到當時最新的科學進展，從異常的氣候談到超自然現(xiàn)象，從神秘主義談到鬼故事。有一天，拜倫建議他們每人寫一篇鬼故事，比賽誰寫得最恐怖。《現(xiàn)代普羅米修斯》由此誕生，誰能想到，這個始于消遣的創(chuàng)作，將成為世界上最有遠見的文學作品之一。
2021年，一本原版印刷的《現(xiàn)代普羅米修斯》在佳士得拍賣了117萬美元，創(chuàng)了紀錄，但書中的倫理并沒有太多人留意。我耳邊莫名地響起那首叫《風中飄蕩》的歌：“……炮彈要從頭頂飛過多少次，才能永遠被禁止？答案，我的朋友，在風中飄蕩，答案就在風中飄蕩……”
講到瑪莉·雪萊的人生、她的創(chuàng)作源泉和才情，我想到我們討論過的另一個課題——AI對藝術家和藝術的影響。那天我們是從梵高的畫談起的，你給我發(fā)來一幅人工智能生成式補全的《星空》，說，AI開始糟蹋名畫了。我給你發(fā)去一張用Lensa軟件做的“梵高畫的”我，說，AI對藝術最大的威脅不是取代，而是使之庸俗化，使人的審美和鑒賞眼光鈍化。
什么是藝術？看到梵高的《星空》時，我們也看到了他關在精神病院里，凝視窗外的星空，并在作畫的過程中獲得心靈的安撫和自由；看到了他在貧困、病痛和譏笑面前的掙扎和信念；看到了他對愛、知音和自我完善的渴望。閱讀《現(xiàn)代普羅米修斯》時，我們也會聯(lián)想起那個被死亡糾纏的少女。作品的熔爐是人生的苦海和彼岸的樂土，沒有肉身與精神的錘煉，怎么可能成形？
其實真正打動我們的是人類的局限性和超越極限的勇氣，人類的欲望和它的精神升華。人工智能以其無限的潛力，不具備人的局限與脆弱。藝術讓我們體會到的敬畏感，不僅存在于創(chuàng)作結果中，它也存在于我們拼命超越自身的企圖中。無限的潛能還有什么可超越與升華的？
心靈和意識是人類智能探索的最后疆域，這塊神秘之地也是藝術的起源和歸屬。但也許有一日AI能模仿我們的心靈和意識？也許真與假、本質與表象的界限將跟水銀一樣流動？也許我們的感官將不再能辨別代糖與蔗糖、植物奶油與黃油、一夜情與戀情的不同？
你說，在未來（大約50年后）人類將進化成一個新物種，類似于今天與10萬年前智人的差異，只不過這次的進化是由技術的進步所加速的。你的話讓我聯(lián)想起石黑一雄的小說《克拉拉與太陽》，在那個未來的世界，“人機結合”的手術已是現(xiàn)實，家長們思想斗爭是否該為孩子的腦子“提升”——畢竟，“提升”后的孩子就不再是原來的人了。人類可能并不會進化成新物種（30萬年前的智人和我們?nèi)允峭晃锓N），但被“提升”后的生命的確將是一個新物種。
他們的（還是它們的？）記憶將是什么樣子？連遙遠的記憶都會清晰無疑？而不再是似夢似幻想的人、聲音、場景，以及那無名的渴望？不再是隱藏太久而朦朧了的秘密，以及那穿刺心靈的甜蜜？不再是掉入時間河流里的石頭，被歲月磨成卵石，長出毛茸茸的青苔，坐落在淤泥砂石旁，在水波中恍恍惚惚，陽光里一個樣子，月光里又是另一個樣子……
他們擁有了包羅萬象的知識和所向披靡的認知，還會有神秘的體驗嗎？還能遐想和驚異嗎？還需要意義嗎？人類文明的驅動力——不管是發(fā)展科技還是人文——都源于對意義的渴求，而并非對真理的渴求。AI完全不需要意義。
增強型AI的自主性加上人的天然惰性，會不會使這個新物種變成人工智能的寄生載體？就像那些被寄生蠕蟲侵入了大腦神經(jīng)的蟋蟀，跳到河里去自殺，從而讓寄生蠕蟲進入更有利于其繁殖的水環(huán)境。
人與新物種之間會發(fā)動戰(zhàn)爭嗎？就像那些科幻小說和科幻電影里的那樣？使用AI自主武器打仗將是什么樣的情景？
每個美夢都能在鏡中看到一個噩夢的深淵，就像我們仰望蒼茫的夜空時，看到自己靈魂的深淵……
不管發(fā)生什么，結局是不是都一樣？朝代來了又去，文明來了又去，人類也將來了又去，就像恐龍來了又去，星球來了又去，宇宙來了又去。這種宿命的感覺或許也導致了我對廢墟的迷戀？古羅馬的格斗場，秘魯?shù)鸟R丘比丘，墨西哥的瑪雅遺址…… 我們不僅能從斷壁殘垣看到昔日的輝煌，也能看到我們自己的未來，看到地球上每一個終將被自然或非自然吞噬的文明。婷婷九歲的時候我?guī)チ她嬝悺?9年被維蘇威火山爆發(fā)埋沒了的古城。記得她一動不動地望著玻璃展柜中被巖漿定了格的人，神情那么嚴肅。我問，你在想什么？她轉頭看我，如夢初醒。然后她做了個怪臉，笑著模仿起那些巖石的人體。也許她沒有語言表達對生死懵懂的思緒？也許她從扭曲的肢體中看到人類永恒的痛苦和掙扎？
藝術家描繪的未來，往往是一派反烏托邦的衰變景象和某種懷舊的惆悵，而你總是說人類會因為科技的進步而越來越幸福。我欣賞你的樂觀，以及你對自己領域的信念和期待，但是人怎么可能因為科技進步而變得越來越幸福呢？幸福與苦難從來是成正比的，就像光明與黑暗，科技能讓陽光沒有陰影嗎？醫(yī)學的發(fā)展可以減輕人肉體的疾痛和折磨，但是苦難本身是人類的生存境況（human condition）。也正是痛苦的體驗，讓我們對他人的苦難有了溫柔和同情。幸福的基石不是科技的進步，而是對苦難的忍耐、抗爭和釋懷。幸福與苦難怎么平衡？一邊是幾粒金色的麥穗，另一邊是無際的苦海。然而，它們是平衡的，就像宇宙是平衡的一樣。那幾粒麥穗包含了每一片日出，每一片日落，每一份滋養(yǎng)你的美麗，每一個值得你的渴望。今天你在天平的這邊，明天你也許在天平的那邊，不需要太多理由。我們唯有珍惜。
今年以來，你參加了各種AI安全使用的峰會和論壇，并起草了AI對人類的具體威脅以及給管理者的建議。我覺得這些努力值得敬佩，跟你說：你在為人類做一件偉大的事情。半秒鐘內(nèi)你發(fā)來一個字：No——有點不容置疑，不像謙虛或客氣?；蛟S你慣常的樂觀是一種心靈取向，而并不依賴于現(xiàn)狀或對未來的評估。你很清楚，人的本性和未來都像洪流一般洶涌，而“自由意志”只是洪流中的一株浮草；驅使我們創(chuàng)造出驚人奇跡的動力，也必將導致自我毀滅。
寫了這么多還覺得沒寫完，與其說我在給你寫信，不如說我在企圖用這個過程整理思路、尋找和認識自己。我們是在夢中呼喊的人，不知道折磨著我們的東西，是不是某種深層幸福的隱秘開端。
祝愿你在新的一年中健康美滿！
陳沖
2023年12月
（作者系著名電影導演、演員）
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內(nèi)容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負任何責任。
