新火種
2023-09-11 
“需設好‘緊箍咒’！”海內外四大院士如何看大模型？
在9月7日舉行的第二屆外灘大會上，不僅云集了來自全球的行業大咖們，同時也是這些大咖們思維和觀點的一次集中的輸出，而針對如今火爆的大模型，大咖們又如何看待呢？
中國科學院院士、復旦大學副校長張人禾：
“AI時代”下要進行“有組織科研”
科學智能已經成為人工智能的重點發展方向，推動跨學科的交叉研究，激發創新突破。加速科技創新與產業變革的深度融合，推動產業轉型升級。科學智能是推動科學研究范式變革、實現科技原始創新策源的利器，擁有引爆產業創新核爆點的巨大潛能。國內科學智能也迅速發展，相繼涌現出大量的科學領域大模型，但仍處在起步階段。面對 “AI時代”的來臨，“單打獨斗”已不適應大科學時代的科技創新，要進行“有組織科研”，最大的優勢在于布局建設大平臺。
中國科學院院士何積豐：
應對大模型的安全問題，需設好“緊箍咒”
大模型的安全問題主要是在未經同意的情況下，收集、使用和泄露個人信息。隱私問題既可能發生在訓練過程，也可能發生在使用過程中，而大模型的生成能力則讓“隱私泄露”的方式變得多樣化，造成隱私保護更加困難。為了應對這些問題，我們需要大模型“對齊技術”。“對齊（alignment）”是指系統的目標和人類價值觀一致，使其符合設計者的利益和預期，不會產生意外的有害后果。“如果把人工智能看作西游記里的孫悟空，“對齊”就是唐僧的緊箍咒。有了緊箍咒，就可以保證技術不會任意使用能力胡作非為。
北京智源人工智能研究院顧問、美國國家工程院外籍院士張宏江：
大模型就好比是人工智能時代的iPhone時刻
“iPhone時刻”是2007年，只有當iPhone發布了以后，我們才迎來了移動互聯網的黃金15年。這15年我們看到它帶來了產業的變革、產業的革命以及一系列的應用和新的平臺。我們相信這次大模型也一樣帶來AI時代的產業變革。AI過去的發展經歷了三個周期，在大模型發布之前實際上是第三個周期的低谷，大模型在過去九個月，掀起了新的浪潮。大模型帶來的影響一定會至少十年，像互聯網平臺一樣，而大模型本身會成為平臺，不再是簡單的模型，這個革命不是簡單的一種技能或者簡單生產效率提高的工具，而是真正平臺性的革命。
美國科學院、美國工程院院士邁克爾·喬丹（Michael I.Jordan）教授：
AI不會替代人
ChatGPT對它寫的內容確定嗎？ChatGPT完全無法回答上述問題，但人類則非常擅長處理類似的問題，擅長溝通以及應對不確定的信息。AI的本質是集體，而不是個人，AI也不會替代人。ChatGPT沒有辦法對不確定性進行量化，不會有一種所謂的超級電腦會替代人，應該把技術看作是一個工具來賦能人類，我們需要建立一個協作式、去中心化的系統來實現集體智能，并設計一個機制使之公平、穩定、可擴展。我們在日常生活中經常遇到不確定性，讓去中心化的系統能夠幫助我們更好、有效地應對日常和世界當中的不確定性，這才是我們亟待解決的問題。
南方+記者 葉丹
【作者】 葉丹
【來源】 南方報業傳媒集團南方+客戶端
相關推薦
- 免責聲明
- 本文所包含的觀點僅代表作者個人看法，不代表新火種的觀點。在新火種上獲取的所有信息均不應被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風險，讀者在采取與本文內容相關的任何行動之前，請務必進行充分的盡職調查。最終的決策應該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產生的任何金錢損失負任何責任。
