新火種
2025-04-15 
全國(guó)政協(xié)委員周鴻祎：建議對(duì)大模型的“幻覺(jué)”給予適度包容
近一段時(shí)間，中國(guó)人工智能領(lǐng)域迎來(lái)里程碑式突破。國(guó)產(chǎn)大模型DeepSeek憑借其技術(shù)范式的革新和性能優(yōu)勢(shì)躋身全球大模型第一梯隊(duì)。與此同時(shí)，大模型與生俱來(lái)的“幻覺(jué)”問(wèn)題也引發(fā)了廣泛討論。
今年兩會(huì)期間，全國(guó)政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎聚焦關(guān)注大模型安全和幻覺(jué)，他認(rèn)為，以DeepSeek為代表的大模型取得了“國(guó)運(yùn)級(jí)科技成果”，不僅促進(jìn)了大模型技術(shù)自主創(chuàng)新，也帶動(dòng)了上下游產(chǎn)業(yè)協(xié)同發(fā)展，讓大模型加速走進(jìn)百行千業(yè)，成為推動(dòng)中國(guó)科技進(jìn)步、經(jīng)濟(jì)增長(zhǎng)和國(guó)家強(qiáng)盛的關(guān)鍵力量。但包括DeepSeek在內(nèi)的大模型都存在“幻覺(jué)”，偶爾會(huì)生成看似不合理、與事實(shí)不符的情況。“幻覺(jué)”是一把雙刃劍，是大模型與生俱來(lái)的特點(diǎn)，不可消除，也決定其創(chuàng)造力和想象力，對(duì)于實(shí)現(xiàn)AGI（通用人工智能）極其重要。如果大模型沒(méi)有“幻覺(jué)”，就失去了想象力和創(chuàng)造力。并且越是能力強(qiáng)的模型，一般幻覺(jué)也越多。
周鴻祎認(rèn)為，在科研領(lǐng)域，大模型的“幻覺(jué)”能“想象”新藥分子結(jié)構(gòu)、蛋白質(zhì)的結(jié)構(gòu)等，為新研究指引方向。在醫(yī)療、法律、金融等對(duì)準(zhǔn)確性要求高的領(lǐng)域，“幻覺(jué)”雖然可能出錯(cuò)，但可以利用技術(shù)手段，如RAG（檢索增強(qiáng)生成）技術(shù)，通過(guò)比對(duì)專(zhuān)業(yè)知識(shí)庫(kù)、網(wǎng)絡(luò)實(shí)時(shí)信息等方式予以矯正。
周鴻祎表示，回顧過(guò)去30年，我國(guó)法律法規(guī)吸納了“避風(fēng)港原則”讓企業(yè)敢于投入創(chuàng)新，帶來(lái)了互聯(lián)網(wǎng)行業(yè)的繁榮，也為后來(lái)的“互聯(lián)網(wǎng)+”、如今的“人工智能+”提供了技術(shù)、產(chǎn)業(yè)和人才支撐。大模型發(fā)展關(guān)系國(guó)運(yùn)，不能因?yàn)檫^(guò)度追求準(zhǔn)確而限制其創(chuàng)造力。他建議，借鑒“避風(fēng)港原則”成功經(jīng)驗(yàn)，對(duì)大模型以及相關(guān)的產(chǎn)品和服務(wù)實(shí)施柔性監(jiān)管，適度包容大模型的“幻覺(jué)”，對(duì)于“幻覺(jué)”導(dǎo)致的一般性失誤，避免直接關(guān)停下架，給予企業(yè)自我糾正的機(jī)會(huì)，促進(jìn)企業(yè)大膽創(chuàng)新、放手競(jìng)爭(zhēng)，爭(zhēng)取讓更多企業(yè)“復(fù)制”DeepSeek的成功。
上游新聞 馬亮
相關(guān)推薦
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個(gè)人看法，不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對(duì)本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn)，讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前，請(qǐng)務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對(duì)因依賴(lài)本文觀點(diǎn)而產(chǎn)生的任何金錢(qián)損失負(fù)任何責(zé)任。
