DeepSeek也有“AI幻覺”?四川企業(yè)尋求解法
當(dāng)前,全球人工智能技術(shù)發(fā)展迅速,大模型成為行業(yè)關(guān)注重點。但大模型普遍存在的“AI幻覺”問題,影響其準(zhǔn)確性和可靠性。
中國科學(xué)院成都計算機應(yīng)用研究所副總工程師,研究員、中國科學(xué)院大學(xué)教授、博士生導(dǎo)師秦小林在接受金融投資報記者采訪時表示,DeepSeek大模型功能固然相較以前有大幅提升,但其邏輯推理能力有待提升,幻覺問題仍未解決。
金融投資報記者注意到,面對“AI幻覺”難題以及探索大模型更廣泛應(yīng)用場景的需求,四川企業(yè)并未僅僅滿足于引入DeepSeek,而是憑借敏銳的行業(yè)洞察力,主動深入挖掘。尤其是“AI幻覺”這一難題,四川多家企業(yè)積極行動,與DeepSeek深度融合,在不同領(lǐng)域與DeepSeek開展合作,DeepSeek的四川朋友圈不斷擴大。
這些川企致力解決大模型幻覺問題
AI幻覺,指的是模型產(chǎn)生不準(zhǔn)確或無根據(jù)的回答。
秦小林舉例稱,他向DeepSeek提問了初中數(shù)學(xué)中三角函數(shù)的問題,但并未收到正確回答。
秦教授向DeepSeek提問的數(shù)學(xué)問題
“其實還是需要理性地看待DeepSeek。我給R1一個有點難度的幾何題,DeepSeek、豆包都相去甚遠(yuǎn),Chatting的回答稍微有點像那么回事,但仍然沒有給出正確的結(jié)果。”秦小林告訴金融投資報記者:“大多數(shù)時候是給一個差不多的答案,然后自圓其說。還有一些簡單的問題,大模型也喜歡將簡單的問題復(fù)雜化,不過會給解題人一些思路,這一點倒是比較有意思。”
在秦小林看來,目前的大模型仍未解決“AI幻覺”問題,DeepSeek對已有知識的能力的確進步神速,但機器的邏輯推理能力仍有不少的路要走。
不止數(shù)學(xué)問題,不少用戶在使用DeepSeek的過程中發(fā)現(xiàn),它在回答專業(yè)問題時經(jīng)常存在幻覺。例如給它一首歌讓其分析音樂風(fēng)格并對其進行深度解析,DeepSeek生成的內(nèi)容看上去十分專業(yè),但實際上仍有不少專業(yè)性錯誤。
金融投資報記者觀察發(fā)現(xiàn),AI幻覺的問題在于,AI會生成大量專業(yè)詞匯,當(dāng)它生成的內(nèi)容超出用戶學(xué)科認(rèn)知的時候,其信息量之大,讓用戶很難一一核對,無法辨別真假。
用戶使用DeepSeek時收到的錯誤回答受訪者供圖
針對解決AI幻覺問題,金融投資報記者了解到,成都它思科技有限公司(以下簡稱:它思科技)在成立之初就把解決幻覺問題當(dāng)作頭號問題,是業(yè)內(nèi)目前在解決幻覺問題上投入相對較多的企業(yè)。
它思科技CEO趙賢宇此前接受金融投資報記者采訪時表示,它思科技采用了“檢索增強生成”(RAG)技術(shù)。該技術(shù)能夠根據(jù)知識庫中的信息生成可靠的答案,降低了編造答案的可能性,從而降低了模型的幻覺。
“DeepSeek是它思科技常用的底座大模型之一,DeepSeek的強化學(xué)習(xí)思路和我們半監(jiān)督學(xué)習(xí)從本質(zhì)上是類似的,只不過具體實操有些區(qū)別,可以做到類似的效果。”它思科技首席技術(shù)官聶瑋奇向金融投資報記者表示。
據(jù)悉,它思科技目前在文旅場景有一些新的產(chǎn)品嘗試,但具體實驗成果目前還在保密階段。在解決AI幻覺上它思科技是否有更新的技術(shù)進展?金融投資報記者將持續(xù)關(guān)注。
此外,成都明途科技有限公司(以下簡稱:明途科技)在解決大模型幻覺方面也有布局。明途科技董事長肖雪松表示,明途的私有數(shù)據(jù)價值發(fā)掘、決策智能和群體正好可以幫助DeepSeek解決通用模型的幻覺問題,幫助其在B端和G端實現(xiàn)商業(yè)化落地,尤其是明途的決策智能,正是DeepSeek推理能力的下一步延伸方向。
DeepSeek四川朋友圈持續(xù)擴容
值得一提的是,四川企業(yè)在擁抱DeepSeek方面展現(xiàn)出極高的熱情與行動力,不斷融入其朋友圈。
算力領(lǐng)域,四川華鯤振宇智能科技有限責(zé)任公司目前已經(jīng)適配DeepSeek V3、R1、R2模型,并免費提供48小時DeepSeek基于昇騰算力任測服務(wù),2月10日起,用戶可免費申領(lǐng)DeepSeek API接口。
芯片領(lǐng)域同樣積極響應(yīng)。成都華微2月6日在互動平臺表示,DeepSeek的推出使得大模型的部署計算算力需求大幅降低,一方面是模型訓(xùn)練成本降低,另一方面為大模型在邊緣和端側(cè)的部署提供更有力的支撐,使得AI端側(cè)大規(guī)模商用落地進度大幅提前。公司致力于邊緣和端側(cè)人工智能處理器開發(fā),也在積極推進在處理器開發(fā)上進行DeepSeek推理模型部署,打造智能聯(lián)合體在智能機器人、機器狗等方向的應(yīng)用,提供從算法到軟件到算力芯片的端到端解決方案。
醫(yī)藥領(lǐng)域也不甘落后,四川合縱藥易購醫(yī)藥股份有限公司2月7日宣布全面部署DeepSeek大模型,用于醫(yī)藥智能供應(yīng)鏈、新零售賦能、精準(zhǔn)醫(yī)療等場景。其部署標(biāo)志著醫(yī)藥大健康產(chǎn)業(yè)生態(tài)的數(shù)字化升級,旨在從“經(jīng)驗驅(qū)動”轉(zhuǎn)向“數(shù)據(jù)智能驅(qū)動”模式。
AIGC應(yīng)用服務(wù)商成都數(shù)據(jù)天空科技有限公司也上線DeepSeek,其人工智能開放平臺目前已上線了包括DeepSeek在內(nèi)的近60個AI模型,通過數(shù)據(jù)天空的AI云盒接入,用戶可以低成本實現(xiàn)對比模型對比應(yīng)用。
目前,四川各行各業(yè)在DeepSeek的應(yīng)用與推動上,正通過技術(shù)創(chuàng)新、產(chǎn)業(yè)融合、模式探索等多種方式多點開花。
延伸閱讀
西南交大人工智能專家邢煥來:
盡快本地部署DeepSeek防止網(wǎng)絡(luò)攻擊
DeepSeek爆火后,受服務(wù)器限制及海外網(wǎng)絡(luò)攻擊影響,用戶向DeepSeek發(fā)送文字聊天消息總會遇到崩潰情況。2月6日晚間,DeepSeek暫停了API服務(wù)充值。官方對此聲明稱,當(dāng)前服務(wù)器資源緊張,為避免對您造成業(yè)務(wù)影響,我們已暫停API服務(wù)充值。
西南交通大學(xué)計算機與人工智能學(xué)院副院長、博士生導(dǎo)師邢煥來接受金融投資報記者采訪時,從網(wǎng)絡(luò)安全從業(yè)者視角深入探討此次事件。
邢煥來指出,面對大規(guī)模網(wǎng)絡(luò)攻擊,DeepSeek原本應(yīng)具備一系列有效防御機制,如升級防火墻安全策略、部署DDoS防護系統(tǒng)、入侵檢測與防御系統(tǒng),實施強密碼策略與多因素認(rèn)證,同時定期進行安全審計和漏洞修復(fù)。針對網(wǎng)絡(luò)服務(wù)因流量壓力過大而崩潰的問題,可采用流量預(yù)測、異常檢測與分析、自動擴展服務(wù)、負(fù)載均衡以及利用云服務(wù)提供商彈性資源等技術(shù)手段,提前預(yù)測和應(yīng)對流量峰值。
在服務(wù)維護和API調(diào)用限制方面,邢煥來建議加強API調(diào)用頻率限制,實施服務(wù)降級策略,優(yōu)化數(shù)據(jù)庫,提升緩存性能,并建立災(zāi)備和快速恢復(fù)機制,以保障服務(wù)穩(wěn)定性。
值得注意的是,近期DeepSeek受到的攻擊呈現(xiàn)出一些新特點。攻擊針對性強,專門針對像DeepSeek這樣擁有豐富數(shù)據(jù)或知識產(chǎn)權(quán)的組織和企業(yè),攻擊者會詳細(xì)收集目標(biāo)情報,了解其防御和內(nèi)部結(jié)構(gòu);組織嚴(yán)密,由專業(yè)團隊實施,利用0day漏洞、僵尸網(wǎng)絡(luò)等先進技術(shù)和工具;持續(xù)時間長,可能長達數(shù)月甚至數(shù)年;隱蔽性高,通過加密通信、修改日志等手段隱藏行蹤,傳統(tǒng)安全防御系統(tǒng)難以偵測。
針對這些新特點,邢煥來表示,防范措施包括實時更新防火墻安全策略、加強日志分析與溯源,以及與安全廠商合作進行威脅情報共享。對于普通用戶,當(dāng)遇到網(wǎng)頁崩潰時,可嘗試本地部署DeepSeek,下載模型參數(shù)到本地,實現(xiàn)無需聯(lián)網(wǎng)即可使用。
“具體來看,本地快速部署DeepSeek首先需要安裝大語言模型運行框架Ollama,然后下載DeepSeek最新發(fā)布的開源模型,最后安裝AI 客戶端應(yīng)用和智能助手Chatbox AI,按提示添加模型并完成配置,即可本地使用DeepSeek。”邢煥來表示。
(文章來源:金融投資報)
- 免責(zé)聲明
- 本文所包含的觀點僅代表作者個人看法,不代表新火種的觀點。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認(rèn)可。 交易和投資涉及高風(fēng)險,讀者在采取與本文內(nèi)容相關(guān)的任何行動之前,請務(wù)必進行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。