新火種
2023-11-05 
清華教授孫茂松、張文宏：ChatGPT是“雙刃劍”，科學倫理已刻不容緩
10月26日，科普中國創(chuàng)作大會暨2023中國科普作家協(xié)會年會在長沙召開。會上，清華大學人工智能研究院教授、歐洲人文和自然科學院外籍院士孫茂松以《生成式人工智能的特點及其能力邊界》為題分享報告。他從ChatGPT的實例出發(fā)，介紹了AIGC（人工智能生成內容）所獨有的創(chuàng)造性、多樣性、個性化等特點，以及可能會引發(fā)的一系列科技倫理與治理問題。同時，生成式人工智能技術能夠以強大的多模態(tài)檢索、信息重組等能力完成詩歌寫作等任務，啟發(fā)、輔助人類的同時，賦能新時代科普及科普創(chuàng)作。
清華大學人工智能研究院教授、歐洲人文和自然科學院外籍院士孫茂松以《生成式人工智能的特點及其能力邊界》為題分享報告。圖/中國科普作家協(xié)會
在提問環(huán)節(jié)，有人問道：“在大模型的加持下，具身智能是人工智能發(fā)展的最終目標嗎？我們離它還有多遠？”
孫茂松回答，具身智能是人工智能未來發(fā)展的方向，它將對人類產生深遠的影響，對于人類來說，它究竟是好事還是壞事，還需要評估。他指出，ChatGPT的影響主要在互聯(lián)網和思維上，而具身智能的影響主要在建設上，目前研究具身智能的條件比以往要好得多，使得其研究往前進了一大步，可以應用于工業(yè)領域，但要做到讓其滿足人類需求、取得可喜的突破，仍具有相當的難度，還有很長的路要走。
一位來自河北科普作協(xié)的張先生提出：“我們在舉辦作文比賽時遇到了一個難題，中小學生的家長用ChatGPT幫孩子寫作文，傳統(tǒng)的查重軟件已無法分辨，應該怎么辦？”
孫茂松表示，這其實涉及怎么規(guī)范使用ChatGPT的問題，一般來說，考試時可以禁止使用電子產品和ChatGPT，從而杜絕這一問題的出現，在日常輔導孩子作業(yè)時，可以幫助家長啟發(fā)思路。
“讓ChatGPT寫作文它確實可以完成得很好，但做創(chuàng)造性、復雜的創(chuàng)作可能還無法實現。”他指出，任何科技發(fā)明和成果都是“雙刃劍”，只不過人工智能在這方面顯得更極端，好的地方非常突出、壞的地方亦如此，對科技倫理、誠信建設提出了一定的挑戰(zhàn)，所以需要人為介入去監(jiān)管。
清華大學人工智能研究院教授、歐洲人文和自然科學院外籍院士孫茂松。圖/中國科普作家協(xié)會
張文宏在會上表示贊同，他稱，ChatGPT的出現無可置疑對人類產生了巨大的影響，對科普也同樣如此，導致一般的作家在它面前毫無存在的價值，除了那些能夠萌生、導引智慧的作家。ChatGPT能夠幫助人類做重復性、簡單的工作，但這對增長智慧毫無幫助，也使大家更難以尋找到真正的智慧。例如，ChatGPT可以在短時間內寫出大量的書，并且其質量未必不好，但這同樣也產生了一個問題，大家會淹沒在數以千計的、類似的、普通書籍，無法分辨哪本才是真正值得閱讀的。
“我毫不懷疑，將來科學會越來越先進，人類會越來越接近于神”，在問答環(huán)節(jié)，張文宏指出，可以預見的未來是，人類去世，身體已不在，但他的思維仍然存在。雖然目前人工智能領域已經能夠做到將逝去的親人通過影像、聲音、形體等方式保留并進行對話，但這種對話是初級的，未來的對話是能夠互動和發(fā)展的，會根據人的動作和語言給予反饋。他解釋，這是因為目前人工智能雖然是可儲存的，但還沒有實現人機結合。
會后，周忠和院士（左五）、孫茂松教授（左二）、張文宏教授（右五）與主辦方合影。圖/九派新聞 代夢穎
關于這種發(fā)展是否有必要，張文宏認為這是無法討論的話題，是“它發(fā)生了就發(fā)生了的，正如我們無法回答是否應該禁止克隆技術的發(fā)展”，許多研究是科學領域已經在做了的，但對于未來的景象會如何是誰也無法預測的，一切都在演化之中。他表示，可以明確的是，在人類的研究方面，不能讓科學跑得太快，科學倫理已刻不容緩地要跟上來。
九派新聞記者 代夢穎
【爆料】請聯(lián)系記者微信：linghaojizhe
【來源：九派新聞】
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
