新火種
2023-11-09 
能打破科研瓶頸也可能給人類帶來威脅AI如何向善？“最強大腦”們說……
當傳統的科學研究已經成為科學進步的主要瓶頸，人工智能已經成為科研新范式，可以解決我們以前做夢都想不到解決辦法的問題。對于人工智能帶來的威脅，科學家們認為，威脅或許不是來自人工智能本身，而是在于我們人類怎么使用它。
來自全球的三十余位世界頂尖科學家、中國兩院院士、資深科學家、青年科學家與企業科學家，7日齊聚世界頂尖科學家智能科學大會，共同探討智能科學的發展路徑與未來圖景。
打造科研新范式，解決做夢都想不到解決辦法的問題
AI到底能做什么？
AlphaFold和GPT工具的出現掀起了各界對新一輪科技革命的思考和熱議，種種驚人的成果預示著智能科學的發展將為科學研究和科學認知帶來顛覆性的變革，輔助乃至引領未來科學進步。
中國科學院院士、北京科學智能研究院院長、北京大學國際機器學習研究中心主任鄂維南在開幕致辭中表示：“目前，傳統的科學研究已經成為科學進步的主要瓶頸，我們需要更好的范式、更好的工具、更高效的組織。而人工智能尤其深度學習是一個非常強大的工具，可以解決我們以前做夢都想不到解決辦法的問題?！?/p>
來自不同領域的科學家分享了人工智能在他們研究領域中的應用。
2013年諾貝爾化學獎得主、南加州大學杰出化學教授、化學和生物化學冠名講席教授、香港中文大學（深圳）瓦謝爾計算生物研究院主任阿里耶·瓦謝爾介紹了物理科學在酶反應當中的應用，以及酶催化背后的數學和化學反應。他們使用多尺度建模的方式來描述量子力學當中化學的部分，通過這種方式去描述問題解決過程中的一些通用原則。
2006年諾貝爾物理學獎得主、香港科技大學基礎物理學中心主任、高等研究院冠名教授、巴黎第七大學名譽教授、加州大學伯克利分校物理學名譽教授喬治·斯穆特分享了用于宇宙研究的人工智能：“人工智能已經被使用于幫助我們去研究上是否有生命的跡象，幫助我們了解日冕為什么溫度這么高，它可以去透露恒星的年齡，也可以幫助我們了解我們的銀河系，我們的星系如何形成?！庇辛巳斯ぶ悄艿膸椭?，人類可以走向太空深處。
2018年沃爾夫化學獎得主、加州大學伯克利分校化學講席教授、卡夫利能源納米科學研究所聯合主任奧馬爾·亞基現在已經成為了一個ChatGPT的信任者：“我使用了ChatGPT Assistant、ChatGPT supervisor，還有ChatGPT的研究小組。我們用大數據、人工智能、機器學習來進行新的發現?！?/p>
它會一本正經的胡說八道、也可能消滅很多的工作，AI如何向善？
人工智能技術飛速發展，伴隨而來的巨大風險也不容忽視。智能科學大會主旨論壇聚焦“AI for Good”，探討如何科學地發展和應用人工智能，引領人工智能向善，使之成為推動人類文明可持續發展的驅動力。
“大模型和AlphaFold總體而言是對的，但是它們在某些方面的工作做得不是非常好?！?022年世界頂尖科學家協會獎“智能科學或數學獎”得主、加州大學伯克利分校電子工程與計算機科學系、統計學系杰出冠名教授邁克爾·I·喬丹指出了人工智能的“幻覺問題”，“它們知道很多，會一本正經地胡說八道，但是目前還沒有足夠的數據來證明它們說的是完全正確的，而事后我們可能會發現它是錯的。現在的問題是，我們怎么發現它們的預測是錯的？”
中國工程院院士、國家數字交換系統工程技術研究中心主任、復旦大學大數據研究院/大數據試驗場研究院院長鄔江興指出了人工智能的內生安全問題：“人工智能不可避免存在內生安全問題，比如我們設計、實現和使用人工智能系統中存在著衍生副作用，這些問題往往是未知和不確定的。尋求與內生安全問題共存的解法是成為平衡AI發展與風險的第一性問題?！?/p>
2011年諾貝爾經濟學獎得主、紐約大學冠名經濟與商業教授托馬斯·薩金特表達了擔憂：AI會消滅很多的工作，可能有一些工作將不再存在。
圍繞“人工智能向善，共筑人類福祉”主題，各位學者分享了他們對于人工智能現狀與發展前景的看法。
1994年圖靈獎得主、卡內基梅隆大學計算機科學與機器人學大學教授、計算機科學系講席教授拉吉·雷迪認為人工智能更多是向善的：“減少人們語言上和知識上的鴻溝；能精準定位感染人群和患者，幫助或支持醫療；以及在音樂和在其他方面可以幫助人們更好地去發揮他們的才華，并且以此養活自己?！?/p>
人工智能帶來的很多威脅，或許不是來自人工智能本身，而是在于我們人類怎么使用它。如何使用人工智能，科學家們從經濟、政策等角度提出了建議。
托馬斯·薩金特教授從經濟學角度建議：“如果想取得任何的成功，顯然需要大膽用經濟理論。人類的嘗試受集體合約的制約，我們可以根據集體合約來運作人工智能?！?/p>
加拿大工程院院士，清華大學鵬瑞教授、深圳國際研究生院數據與信息研究院院長，清華-伯克利深圳學院（TBSI）信息和數據科學首席教授張曉平則相信，市場會找出一種有效的方式來糾正人們對AI的使用。
2021年阿貝爾獎得主、普林斯頓高等研究院數學學院冠名教授艾維·維格森認為：我們或者政府應該采取行動，比如在限制人工智能技術使用方面出一些相應的法律法規，避免應用這些技術向惡。
“全球最強大腦”們，對人工智能的未來也充滿了爭論?？茖W家們認為，面對未來，能做的是以一顆向善之心、以科學的精神，跨國界、跨領域合作，去求得實踐的總和。
（文章來源：周到）
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
