首頁 > AI資訊 > 最新資訊 > AI并不“”:ChatGPT給出癌癥治療方案被指漏洞百出

AI并不“”:ChatGPT給出癌癥治療方案被指漏洞百出

新火種    2023-09-01

快科技8月27日消息,近日,《美國醫(yī)學(xué)會腫瘤學(xué)雜志》刊登的一篇研究報告指出,ChatGPT生成的癌癥治療方案漏洞百出,毫無參考意義。

據(jù)悉,該研究來自哈佛醫(yī)學(xué)院附屬的布里格姆婦女醫(yī)院,該醫(yī)院的研究人員發(fā)現(xiàn),在ChatGPT回答的關(guān)于癌癥病例與其治療方案的回答中,有三分之一存在不正確信息。

更致命的是,這些錯誤信息被ChatGPT與正確信息混雜在一起,導(dǎo)致用戶難以分辨到底哪些信息是準(zhǔn)確可靠的。

參與該研究的Danielle Bitterman博士稱,ChatGPT回答中,錯誤信息與正確信息的混合程度相當(dāng)高,已經(jīng)達到了專家也難以發(fā)現(xiàn)問題的程度。

事實上,此前就曾有大量消息指出,目前的ChatGPT,或其他生成式人工智能,仍然存在給出強誤導(dǎo)性、或是完全錯誤信息的情況。

對此,以O(shè)penAI為首的人工智能研發(fā)團隊已經(jīng)表示,將在后續(xù)的開發(fā)中提高AI回答的可靠性,避免這樣類似幻覺”情況的出現(xiàn)。

此外,OpenAI已經(jīng)在使用條款中警告用戶,模型并非是為提供醫(yī)療信息設(shè)計,也不應(yīng)該被用于為嚴(yán)重的醫(yī)療狀況提供診斷或治療服務(wù)。

相關(guān)推薦
免責(zé)聲明
本文所包含的觀點僅代表作者個人看法,不代表新火種的觀點。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對本文可能提及或鏈接的任何項目不表示認可。 交易和投資涉及高風(fēng)險,讀者在采取與本文內(nèi)容相關(guān)的任何行動之前,請務(wù)必進行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨立判斷。新火種不對因依賴本文觀點而產(chǎn)生的任何金錢損失負任何責(zé)任。

熱門文章