AIxiv專欄是機(jī)器之心發(fā)布學(xué)術(shù)、技術(shù)內(nèi)容的欄目。過(guò)去數(shù)年，機(jī)器之心AIxiv專欄接收?qǐng)?bào)道了2000多篇內(nèi)容，覆蓋全球各大高校與企業(yè)的頂級(jí)實(shí)驗(yàn)室，有效促進(jìn)了學(xué)術(shù)交流與傳播。如果您有優(yōu)秀的工作想要分享，歡迎投稿或者聯(lián)系報(bào)道。投稿郵箱：liyazhou@jiqizhixin.com；zhaoyunfen
當(dāng)前，全球人工智能技術(shù)發(fā)展迅速，大模型成為行業(yè)關(guān)注重點(diǎn)。但大模型普遍存在的“AI幻覺(jué)”問(wèn)題，影響其準(zhǔn)確性和可靠性。
依托數(shù)據(jù)、平臺(tái)、知識(shí)增強(qiáng)等優(yōu)勢(shì) 夸克大模型大幅降低問(wèn)答幻覺(jué)率“大模型時(shí)代，夸克有巨大機(jī)會(huì)創(chuàng)造出革新性搜索產(chǎn)品。”11月22日，夸克大模型公布了其面向搜索、生產(chǎn)力工具和資產(chǎn)管理助手的大模型技術(shù)布局。數(shù)據(jù)顯示，夸克千億級(jí)參數(shù)大模型登頂C-Eval和CMMLU兩大權(quán)威榜單，夸克百億級(jí)參數(shù)大模型同樣在法律、
OpenAI的AI語(yǔ)音轉(zhuǎn)寫(xiě)工具，那個(gè)號(hào)稱近乎“人類水平”的Whisper，被曝幻覺(jué)嚴(yán)重——100多小時(shí)轉(zhuǎn)錄，被工程師發(fā)現(xiàn)約一半都在瞎扯。更嚴(yán)重的是，美聯(lián)社還爆料有醫(yī)療機(jī)構(gòu)利用Whisper來(lái)轉(zhuǎn)錄醫(yī)生與患者的會(huì)診，瞬間引發(fā)大量網(wǎng)友關(guān)注。
今年全國(guó)兩會(huì)，全國(guó)人大代表劉慶峰關(guān)注“人工智能+”所帶來(lái)的新質(zhì)生產(chǎn)力。他建議，加快構(gòu)建國(guó)產(chǎn)算力平臺(tái)上的自主可控大模型及產(chǎn)業(yè)生態(tài)；預(yù)防大模型生成“幻覺(jué)數(shù)據(jù)”充斥互聯(lián)網(wǎng)帶來(lái)的危害，從技術(shù)研發(fā)和管理機(jī)制上構(gòu)建可信的信息環(huán)境；豐富和優(yōu)化“以舊換新”等政策推動(dòng)AI智能終端產(chǎn)業(yè)發(fā)展。
“幻覺(jué)是大模型與生俱來(lái)的一種特點(diǎn)，不是缺點(diǎn)，沒(méi)有幻覺(jué)的大模型沒(méi)有智能性。”11月20日，世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)期間，360創(chuàng)始人周鴻祎在接受媒體采訪時(shí)表示，“互聯(lián)網(wǎng)下一個(gè)五年到十年的方向已經(jīng)明確的寫(xiě)出來(lái)了，就是人工智能和大語(yǔ)言模型。”周鴻祎表示，他坦言，目前中國(guó)大模型產(chǎn)業(yè)在算力芯片和數(shù)據(jù)上仍面臨一定
計(jì)算機(jī)視覺(jué)機(jī)器之心報(bào)道排行榜一出，高下立見(jiàn)。人工智能發(fā)展進(jìn)步神速，但問(wèn)題頻出。OpenAI 新出的 GPT 視覺(jué) API 前腳讓人感嘆效果極好，后腳又因幻覺(jué)問(wèn)題令人不禁吐槽。幻覺(jué)一直是大模型的致命缺陷。由于數(shù)據(jù)集龐雜，其中難免會(huì)有過(guò)時(shí)、錯(cuò)誤的信息，導(dǎo)致輸出質(zhì)量面臨著嚴(yán)峻的考驗(yàn)。
3月24日消息，知乎直答作為依托于社區(qū)的AI工具，積累了知乎社區(qū)海量專業(yè)討論、超5000萬(wàn)篇文獻(xiàn)知識(shí)庫(kù)的內(nèi)容優(yōu)勢(shì)，并通過(guò)接入DeepSeek實(shí)現(xiàn)推理能力升級(jí)。知乎宣布，知乎直答現(xiàn)已煥新升級(jí)，在內(nèi)容和算法基礎(chǔ)上，進(jìn)一步挖掘人的專業(yè)價(jià)值，強(qiáng)化AI與社區(qū)，尤其是與創(chuàng)作者的融合。
12月19日，百川智能宣布開(kāi)放基于搜索增強(qiáng)的Baichuan2-Turbo系列API，包含Baichuan2-Turbo-192K及Baichuan2-Turbo。這是9月末Baichuan2-53B第一次向外界打開(kāi)API之后，百川智能在B端的進(jìn)一步動(dòng)作。
“這兩年，行業(yè)最大的變化是大模型基本消除了幻覺(jué)，回答問(wèn)題的準(zhǔn)確性大幅提升，AI從一本正經(jīng)的胡說(shuō)八道，變得可用、可被信賴。”11月12日，百度世界2024大會(huì)上，百度創(chuàng)始人李彥宏給出了自己對(duì)大模型行業(yè)的回顧。 這意味著，在推動(dòng)以大模型為基礎(chǔ)的AI應(yīng)用生態(tài)，已經(jīng)到了爆發(fā)的前夜。而智能體已然成為百度深耕
