推動人工智能正向發(fā)展,跨領(lǐng)域與國際合作至關(guān)重要
編者按:2023年是微軟亞洲研究院建院25周年。25年來,微軟亞洲研究院探索并實踐了一種獨特且有效的企業(yè)研究院的創(chuàng)新模式,并以此為基礎(chǔ)產(chǎn)出了諸多對微軟公司和全球社會都具有積極影響的創(chuàng)新成果。借此機(jī)會,我們特別策劃了“智匯對話”系列內(nèi)容,邀請全球各領(lǐng)域頂尖專家學(xué)者,與微軟亞洲研究院共同暢談研究文化,探討跨學(xué)科創(chuàng)新,展望技術(shù)未來。
11月10日,微軟亞洲研究院與清華大學(xué)蘇世民書院聯(lián)合舉辦了一場主題為“促進(jìn)人工智能的合作與學(xué)術(shù)交流”的座談會。會上,蘇世民書院院長薛瀾教授和微軟研究院副總裁、微軟杰出首席科學(xué)家、微軟研究院全球研究合作負(fù)責(zé)人 Ashley Llorens 博士就人工智能未來發(fā)展所需的合作展開了深入討論,并分享了他們各自對跨領(lǐng)域與國際合作、人才培養(yǎng)等問題的見解。本次對話由微軟亞洲研究院資深首席研究員謝幸博士主持。

Ashley Llorens博士(中)與薛瀾教授(右)的對話,由謝幸博士(左)主持。
謝幸:人工智能技術(shù)和相關(guān)工具的日益普及,引發(fā)了人們對其可能帶來的機(jī)遇和潛在風(fēng)險的
薛瀾:作為一名政策分析者而非計算機(jī)科學(xué)家,我對人工智能技術(shù)的細(xì)節(jié)了解不多,但我一直在密切
許多人都擔(dān)憂人工智能可能帶來的潛在風(fēng)險,但也有大量技術(shù)專家擔(dān)心,政府的過度監(jiān)管可能抑制技術(shù)的發(fā)展。如何在兩者之間取得平衡,是我們當(dāng)前面臨的一大挑戰(zhàn)。對此,我們一直倡導(dǎo)將敏捷治理作為人工智能的治理方法。
由于人工智能的發(fā)展給人類社會帶來了諸多益處,所以推動其創(chuàng)新發(fā)展是毋庸置疑的。但同時,未知的風(fēng)險也是巨大的,我們不能放任其野蠻發(fā)展,關(guān)鍵在于我們的治理如何適應(yīng)并跟上這一新技術(shù)的發(fā)展腳步。因此,我們需要審慎地觀察人工智能的發(fā)展,在必要時采取措施引導(dǎo)規(guī)制,同時避免過度干預(yù)阻礙其發(fā)展。
Ashley Llorens:我在人工智能領(lǐng)域有20年的工作經(jīng)驗,親眼見證了機(jī)器學(xué)習(xí)技術(shù)和機(jī)器人應(yīng)用將我們帶入了一個激動人心的時代。我們正在經(jīng)歷技術(shù)史上的一個歷史性時刻,一個關(guān)鍵的轉(zhuǎn)折點。
回顧幾十年來計算技術(shù)的發(fā)展,人們開發(fā)了各種應(yīng)用程序來完成特定任務(wù),現(xiàn)在我們已經(jīng)創(chuàng)造了非常復(fù)雜的方式來顯式地編程,讓機(jī)器執(zhí)行任務(wù),例如使用 Windows 系統(tǒng)與各種應(yīng)用程序和軟件進(jìn)行交互,這些程序?qū)Ⅻc擊的動作映射為用戶的實際意圖,比如打開 Word 文檔等。
隨著機(jī)器學(xué)習(xí)技術(shù)的崛起,系統(tǒng)可以通過數(shù)據(jù)和經(jīng)驗實現(xiàn)自我編程、自動創(chuàng)建映射、自主完成任務(wù)。實際上,經(jīng)過學(xué)習(xí)訓(xùn)練的程序就是一個高度參數(shù)化的數(shù)學(xué)函數(shù),但在大語言模型和多模態(tài)模型出現(xiàn)之前,一個訓(xùn)練過的程序只能完成一項任務(wù),比如一個計算機(jī)視覺算法,它接收像素輸入并輸出分析結(jié)果,描述圖像中包含的對象或預(yù)測視頻序列中要執(zhí)行的動作。但現(xiàn)在,自監(jiān)督機(jī)器學(xué)習(xí)的過程可以創(chuàng)建執(zhí)行多個任務(wù)的程序,而且還可以使用自然語言對它進(jìn)行再編程。ChatGPT 帶來的改變是革命性的。我們可以使用開發(fā)人員提供的基礎(chǔ)模型,以前所未有地方式使用這些工具,或者用開發(fā)者未曾想到的方式進(jìn)行創(chuàng)新。
回到人工智能的機(jī)遇和風(fēng)險這一問題上。用戶可以更具創(chuàng)新性地來使用這些技術(shù)工具,但這也帶來了風(fēng)險,比如,用戶想用工具來做一些不好的事,或者因為對模型能力的片面理解導(dǎo)致模型產(chǎn)生了意外的結(jié)果,尤其是在醫(yī)療等關(guān)鍵領(lǐng)域,有些意外結(jié)果將是危及生命的。
因此,技術(shù)與人類需要共同進(jìn)化,在利用技術(shù)優(yōu)勢的同時,也要基于負(fù)責(zé)任的人工智能原則來進(jìn)行創(chuàng)新。微軟推出的大語言模型產(chǎn)品都經(jīng)過了嚴(yán)格的測試,就是這種共同進(jìn)化的例證。
謝幸:我想大多數(shù)人都會認(rèn)同這是一個技術(shù)變革的時代,也意識到了機(jī)遇與挑戰(zhàn)的并存。人工智能的快速發(fā)展,特別是大語言模型的興起,既彰顯了技術(shù)的進(jìn)步,也引發(fā)了很多擔(dān)憂。兩位對人工智能的未來有什么看法?是樂觀更多一些,還是會有些悲觀?
薛瀾:如果沒有人關(guān)心人工智能可能帶來的風(fēng)險,那才是真正的令人悲觀。相反,正因為現(xiàn)在有很多人
以核技術(shù)為例,在其發(fā)展初期,科學(xué)家們也為核彈的發(fā)展展開過爭論,當(dāng)人們看到核彈的破壞力之后,便開始倡導(dǎo)停止這項技術(shù),并形成了一整套控制核武器擴(kuò)散的機(jī)制。由此可見,人類社會是有能力控制技術(shù)的應(yīng)用,限制技術(shù)向負(fù)面方向發(fā)展的。
同樣,在生物技術(shù)領(lǐng)域,基因編輯等前沿技術(shù)能夠完成很多超乎想象的事情,但也伴隨著倫理道德方面的擔(dān)憂。而現(xiàn)在醫(yī)學(xué)界和生命科學(xué)界已經(jīng)嘗試提出一套倫理方針來指導(dǎo)研究。人工智能科學(xué)家和政府機(jī)構(gòu)也在努力探索治理機(jī)制,來為技術(shù)提供防護(hù)欄。因此,我對人工智能的未來還是持樂觀態(tài)度的。

蘇世民書院院長薛瀾教授
Ashley Llorens:我同意薛教授的觀點。我從事人工智能和機(jī)器學(xué)習(xí)相關(guān)工作已經(jīng)有很長時間了,如果10年前我說自己是做機(jī)器學(xué)習(xí)的,很多人會感到困惑。但現(xiàn)在,人們對人工智能的發(fā)展有了更多的了解,而且計算機(jī)領(lǐng)域之外的人每天也在利用這項技術(shù)解決實際問題。我們也看到在學(xué)術(shù)界,很多人在推動人工智能技術(shù)的發(fā)展。人類的一個優(yōu)勢是擅長使用工具,從某種角度來說,人工智能作為一種工具,是我們與物理世界交互的延伸,也是我們認(rèn)知能力的放大器。
同時,我們也需要保持警惕。樂觀、懷疑、悲觀,這些不同的態(tài)度都是正常的。當(dāng)我們從整個社會的角度來考慮資源投入時,要把這些態(tài)度都納入考量,關(guān)鍵在于投入的分配比例。盡管一顆小行星撞擊地球的可能性非常小,但美國國家航空航天局(NASA)還是投入了一些資金,通過小行星重定向項目來降低相關(guān)的風(fēng)險。我想說的是,我們需要有一個多元的投入組合來反映我們對先進(jìn)技術(shù)的不同態(tài)度,并且要確保我們的決策不會阻礙技術(shù)的正向發(fā)展。
謝幸:清華大學(xué)和微軟研究院都是高度國際化的組織,并且有豐富的國際合作經(jīng)驗,你們?nèi)绾慰创龂H合作在應(yīng)對人工智能風(fēng)險和挑戰(zhàn)方面的作用?以及如何讓合作更為有效?
Ashley Llorens:國際合作在人工智能領(lǐng)域至關(guān)重要。我們需要找到最佳的合作方式,以實現(xiàn)更大的成功和積極成果,同時避免負(fù)面影響。微軟一直致力于推動人工智能技術(shù)的正向應(yīng)用,例如我們發(fā)起的“氣候研究倡議(Microsoft Climate Research Initiative, MCRI)”,就是旨在利用人工智能技術(shù)應(yīng)對氣候變化。在內(nèi)部,我們與可持續(xù)發(fā)展研究領(lǐng)域的同事合作,確定了人工智能和計算技術(shù)可以幫助應(yīng)對氣候變化挑戰(zhàn)的三個研究方向:碳核算、碳減排和氣候韌性。在外部,我們與高校合作共同探索如何結(jié)合新的遙感技術(shù)和人工智能進(jìn)行碳核算,其中就有來自清華大學(xué)的研究員。這是我們通過合作推動技術(shù)正向應(yīng)用的一個例子。
薛瀾:從全球視角看,近年來科學(xué)家之間的國際合作日益增加。在研究層面,合作尤為重要,我們的研究發(fā)現(xiàn),在科技文獻(xiàn)發(fā)表方面美國和中國是合作最多的國家。在機(jī)構(gòu)合作方面,就像 Ashley 提到的,清華大學(xué)的科學(xué)家加入到微軟資助的研究項目中,還有很多清華大學(xué)的畢業(yè)生在微軟工作,微軟也和清華大學(xué)在很多項目上開展了合作。在國家層面,我們要避免極端競爭的情況出現(xiàn),給科技合作提供基本保障。
謝幸:除了國際合作,跨學(xué)科合作也是人工智能發(fā)展的重要維度。越來越多的研究人員意識到,要推動人工智能的進(jìn)步,必須與社會科學(xué)等其他學(xué)科相結(jié)合,以便更深入地理解和應(yīng)對人工智能對社會的影響。請兩位談?wù)勀銈儗鐚W(xué)科合作在人工智能發(fā)展中的作用和意義的看法。
薛瀾:我們今天的座談會就是一次跨學(xué)科對話與合作的例證。在人工智能治理方面,我們需要技術(shù)專家、哲學(xué)家、政策制定者和管理人員的共同參與,跨學(xué)科合作對人工智能的發(fā)展非常關(guān)鍵。
人工智能對公共管理和社會科學(xué)研究的影響正受到越來越多的
Ashley Llorens:跨學(xué)科合作是解決人工智能領(lǐng)域中核心問題的關(guān)鍵。作為人工智能的科研人員,我認(rèn)為探索通用智能的本質(zhì)會帶來很多有趣的技術(shù)挑戰(zhàn),其中最有趣的科學(xué)問題是關(guān)于人類的問題。還有一些更廣泛的社會問題,比如社會是否應(yīng)該與這些技術(shù)共同進(jìn)化。這些問題非常有意義,也是非常重要的問題。
微軟研究院很早就意識到了這一點,我們匯集了很多社會科學(xué)家,包括計算社會科學(xué)家、經(jīng)濟(jì)學(xué)家、人類學(xué)家等各領(lǐng)域的專家。我們還需要更多來自不同領(lǐng)域和不同背景知識的人才,來共同構(gòu)建一個跨學(xué)科合作的社區(qū)。

微軟研究院副總裁、微軟杰出首席科學(xué)家、微軟研究院全球研究合作負(fù)責(zé)人 Ashley Llorens 博士
謝幸:鑒于跨學(xué)科合作的重要性,我們需要培養(yǎng)更多的跨學(xué)科人才。然而,目前這方面的人才還比較匱乏。我們應(yīng)該如何為未來的人工智能培養(yǎng)跨學(xué)科人才,以應(yīng)對未來的變化和挑戰(zhàn)?
薛瀾:其實這是一件很容易的事,可以先在蘇世民書院學(xué)習(xí),然后加入微軟公司工作(笑)。
Ashley Llorens:我們必須處理好人工智能對教育的影響,并充分利用其為教育帶來的機(jī)遇。從小培養(yǎng)孩子的算法思維和系統(tǒng)性思維,比以往任何時候都更重要,技術(shù)可以幫助我們實現(xiàn)這一目標(biāo)。現(xiàn)在,機(jī)會就在眼前,我們需要加大這方面的投入和支持。
同時,我們也需要在學(xué)校中規(guī)范地使用人工智能技術(shù),比如在論文撰寫中合理運用AI。我們不應(yīng)過度依賴工具,而忽視必要技能的培養(yǎng),當(dāng)然我們也不能忽視對新興技術(shù)的使用。
薛瀾:未來,人工智能有望幫助消除不同領(lǐng)域之間的障礙。人們常常有一種固有印象,認(rèn)為學(xué)習(xí)科學(xué)和數(shù)學(xué)知識之后,再學(xué)習(xí)人文和社會科學(xué)是件很容易的事,但反過來卻比較困難。現(xiàn)在人工智能也許可以改變這種領(lǐng)域偏見。人們可以平等地使用各種工具來學(xué)習(xí)科學(xué)、數(shù)學(xué)、工程和社會科學(xué)等,或許這是未來使用人工智能工具就能實現(xiàn)的。
Ashley Llorens:我完全同意。我相信,未來人們可以更容易地享受到技術(shù)進(jìn)步帶來的好處,使用自然語言編程系統(tǒng)將成為一項基本技能。盡管這還存在挑戰(zhàn),但微軟研究院正朝著這個目標(biāo)努力,到那時不僅計算機(jī)科學(xué)家可以用編程語言編寫代碼,非計算機(jī)科學(xué)家也能用自然語言為代碼庫做出貢獻(xiàn)。未來5到10年,我們對技術(shù)人員的定義可能就會完全不同。
- 免責(zé)聲明
- 本文所包含的觀點僅代表作者個人看法,不代表新火種的觀點。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認(rèn)可。 交易和投資涉及高風(fēng)險,讀者在采取與本文內(nèi)容相關(guān)的任何行動之前,請務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。