新火種
2023-11-07 
人類應如何提防“有了意識的AI”？中美等28國簽署全球首個AI治理宣言
▲蘇茨科維爾一向低調的Open AI首席科學家伊利亞·蘇茨科維爾近日罕見地接受了媒體長篇專訪。在采訪中他透露，他現在最擔心的已經不是如何打造更新更強的大模型，而是擔憂如何提防未來必將出現的“超級人工智能”。此前，馬斯克、“AI教父”辛頓等人也多次提醒人們注意防范AI帶來的風險。為了應對危機，日前全球主要國家在英國召開了一場AI安全峰會，中國科技部副部長吳朝暉也應邀在峰會開幕式發表演講。中國、美國等28個國家和歐盟共同簽署了《布萊切利宣言》，關注人工智能模型對人類生存構成威脅的擔憂。有媒體評論說，在人類面臨AI這一新興物種的強烈威脅之際，“全球表現得空前團結”。蘇茨科維爾：AI可能已經有了意識蘇茨科維爾是一名以色列裔加拿大人，他出生在前蘇聯，但從5歲起就在耶路撒冷長大，會說俄語、希伯來語和英語。早在本世紀初，他就拜師于“AI教父”辛頓，他們的團隊從最初級的AI識圖軟件開始，一步步將當時不被人看好的AI模型的功能推向極限?！K茨科維爾（左）與老師辛頓（右）早年共同創業蘇茨科維爾自己一直是AGI（通用人工智能，即在所有任務上都能取代人類的AI）的信徒，而他對AI技術的信心從一件小事上就可以看出來：當時蘇茨科維爾帶領團隊在多倫多開發AlexNet，英偉達給他們寄了幾塊GPU讓他們試用。但他們想要的是最新版本的GTX580芯片，但這種芯片在門店里很快就賣光了。根據英偉達CEO黃仁勛的說法，蘇茨科維爾從多倫多親自開車到紐約買到了GTX580。黃仁勛回憶說，“人們為了買芯片在街角排起了長隊。我不知道他是怎么做到的——我很確定我們當時的政策是每個人只能買一塊芯片，但他顯然通過手段裝滿了一個后備箱的芯片。這滿滿一箱的GTX580最終改變了AI行業的面貌，改變了世界?！碧K茨科維爾還坦承，他在GPT模型剛推出的時候根本沒想到它的功能會如此強大?！白铋_始我們給它提問，它總會有一搭沒一搭地回答，還有很多事實錯誤?！辈贿^隨著訓練量的增大，以及數以十億計的用戶反饋之下，GPT模型更新迭代速度遠超任何人想象。蘇茨科維爾在采訪中還認為，GPT模型已經擁有了自己的意識，盡管可能很輕微。他以量子力學中的“波茲曼大腦”概念舉例說，構成AI根基的“神經網絡”在活躍的時候也擁有自己的意識，在無人提問的空隙，這些意識也就消失不見了。蘇茨科維爾稱，他目前工作的重點不是開發更強的AI模型，而是防范未來強大的“超級人工智能”對人類造成的威脅。在這一步防范工作完成后，他認為一部分人類屆時可能會選擇與安全的AI相結合，變成AI的一部分，以實現“共同永生”。至于蘇茨科維爾是否愿意和AI一起永生，他的回答是，“也許會的”。馬斯克等人警告：AI未來可能威脅人類生存在訪談中，蘇茨科維爾談到了AI讓他最印象深刻的一幕：當“阿爾法狗”與韓國圍棋頂尖高手李世石對弈時，下出了非常古怪的一手棋。在現場的解說員們嘩然，以為“阿爾法狗”的運算出了bug，但賽后復盤來看這一手棋堪稱制勝妙招，更重要的是在人類歷史上留下的棋譜中還從來沒有人這樣下過。蘇茨科維爾表示，“AI看問題的眼光比人類深刻得多，人類下了幾千年的圍棋，了解的規律都比AI膚淺。你可以想象當AGI達成時，AI在任何問題上都能像在圍棋上領先人類，那會是什么景象?！碧K茨科維爾的老師、“AI教父”辛頓也在今年6月的北京智源人工智能大會上對在場觀眾表達了擔憂。他認為，組成AI的人造神經網絡將比人腦更智能，而且這一天的到來要遠遠早于他原來的想象。75歲的辛頓對在場的年輕科學家們表示，“我已經老了，希望大家能好好研究如何控制比人類更聰明的超級智能。一個不怎么聰明的物種要去控制一個自己發明出來的聰明物種，這在歷史上是前所未有的挑戰?！北娝苤?，世界首富馬斯克一直以來也是“AI威脅論”持有者。他曾在紀錄片中表示，“在人工智能時代，我們可能給自己創造出來一個永恒不朽的獨裁者。在過去，至少希特勒和墨索里尼這樣的凡人能力有限，他們的作惡多端也有極限”。馬斯克還稱，如果未來人類碰巧擋在了AI實現既定目標的道路上，AI會像“踩死螞蟻”一樣碾壓過人類的尸體。AI治理已在行動：28國簽署全球首個AI治理宣言面對科學界普遍的擔憂，11月1日，首屆全球人工智能安全峰會在英國布萊切利莊園拉開帷幕。在開幕式上，包括中國在內的28個與會國共同簽署的《布萊切利宣言》正式發表，這也是全球首個關于AI治理的共同宣言?！鴧浅瘯熢贏I安全峰會發言據新華社報道，中國科技部副部長吳朝暉在開幕式上發表了演講。中方指出，人工智能治理攸關全人類命運，是世界各國面臨的共同課題。發展人工智能，應當積極倡導以人為本，智能向善，加強技術風險管控，并在相互尊重、平等互利的原則基礎上，鼓勵各方協同共治，增強發展中國家在人工智能全球治理中的代表性和發言權，不斷彌合智能鴻溝和治理能力差距。中方愿與各方一道就人工智能安全治理加強溝通交流，為推動形成普遍參與的國際機制和具有廣泛共識的治理框架積極貢獻智慧，切實落實全球發展倡議、全球安全倡議和全球文明倡議，促進人工智能技術更好造福人類，共同構建人類命運共同體。在峰會上，美國商務部長吉娜·雷蒙多宣布成立一個新的人工智能安全研究所，該所將隸屬于商務部的國家標準與技術研究院(NIST)。雷蒙多說，該組織的目標是與其他政府設立的其他人工智能安全組織密切合作，并透露英國也計劃建立AI安全研究所?！拔覀儽仨氶_始工作，我們的政府機構之間也必須開始努力，以便在全球范圍內實現政策一致”。英國科學、創新和技術部的信息顯示，本次峰會邀請了約100名各國官員、人工智能企業代表和專家。美國、中國、日本、德國、印度等20多個國家的政府代表，以及聯合國、經合組織、國際電信聯盟等多個國際組織的代表參會。另有超過80個學術機構、企業和協會組織代表參會。據環球時報和新華社等報道，中國于上周接受了英方的參會邀請，與吳朝暉一道與會的還有來自中國外交部、企業和學術機構的代表。中國科學院、中國騰訊公司、阿里巴巴公司也出席了這次會議。有媒體稱，“這是全球罕見的團結表現”。負責組織此次峰會的英國官員克利福德稱，此次峰會標志著英國尤其是首相蘇納克的外交成功。紅星新聞記者 鄭直編輯 潘莉 責編 官莉（下載紅星新聞，報料有獎?。?
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
