京東言犀大模型牽手醫(yī)療:AI健康助手加速釋放技術(shù)應(yīng)用效能
自打1994年,美國(guó)耶魯大學(xué)教授威廉·基西克,在《醫(yī)療的困境:無限需求和有限資源》一書中,提出了那個(gè)著名的“不可能三角”理論。此后近30年,全球醫(yī)療健康領(lǐng)域所開啟的破局之旅,大多鎩羽而歸。
在傳統(tǒng)醫(yī)療健康模式下,想要同時(shí)達(dá)成“提供高質(zhì)量醫(yī)療、降低成本、增加醫(yī)療可及性”目標(biāo),幾乎是不可能的事情。隨著大模型奔涌而來,業(yè)界迎來了破冰時(shí)刻。京東健康首次對(duì)外發(fā)布醫(yī)療健康大模型“京醫(yī)千詢”,對(duì)接京東云言犀大模型,以“體驗(yàn)+”“效率+”和“服務(wù)+”,為行業(yè)提供解題新思路。
體驗(yàn)+:大模型牽手建康 保障用戶體驗(yàn)
面對(duì)復(fù)雜的醫(yī)療健康場(chǎng)景,京醫(yī)千詢借助大模型能力統(tǒng)一交互入口,可調(diào)度專家模型,輔助醫(yī)生決策降低誤診,協(xié)同醫(yī)療人員服務(wù)用戶從問診到用藥的全流程,進(jìn)一步保障患者診療體驗(yàn)。
一組遠(yuǎn)程醫(yī)療健康數(shù)據(jù),最能彰顯大模型使用前后的對(duì)此。
診前,智能分診的準(zhǔn)確率提升至99.3%;分診滿意度在用戶NPS調(diào)研中排名TOP2;知識(shí)及數(shù)據(jù)雙驅(qū)動(dòng),支持100多個(gè)科室分診,并通過線上數(shù)據(jù)反饋,持續(xù)優(yōu)化知識(shí)庫(kù)及模型。
診中,專科輔診具備全科智能診療能力,以皮膚科為例,能支持近百種高頻皮膚病診斷,可覆蓋線上90%的問診咨詢。醫(yī)生開具處方后,藥師在人工審核的基礎(chǔ)上,借助大模型提升處方二次審核效率,較年初審方效率提升2倍。
診后,智能隨訪使患者隨訪依從性提升到26.1%;質(zhì)控檢測(cè)問診單,排查醫(yī)療健康安全隱患,較于純?nèi)斯な侄蜗啾龋瑱z出效率提升了17.4倍。
效率+:大小模型協(xié)同 助力降本增效
相比其他大模型,過去幾年,京東健康建設(shè)了行業(yè)內(nèi)首個(gè)實(shí)物與服務(wù)相聯(lián)通、知識(shí)與數(shù)據(jù)相融合的百萬(wàn)級(jí)大規(guī)模健康知識(shí)圖譜,沉淀了超過億級(jí)的覆蓋線上、線下醫(yī)患場(chǎng)景的高質(zhì)量健康檔案,并擁有海量的醫(yī)藥全域流通大數(shù)據(jù),從而夯實(shí)了京醫(yī)千詢行業(yè)內(nèi)領(lǐng)先的醫(yī)療健康大模型“基礎(chǔ)性”資源。
豐富的領(lǐng)域知識(shí),疊加模型推理能力,奔赴醫(yī)療健康領(lǐng)域,進(jìn)一步為行業(yè)提質(zhì)增效。而在大模型時(shí)代,時(shí)延、吞吐量和利用率,影響推理成本、效率和體驗(yàn)。京東云注意到,因文字要逐一生成,大模型的推理效率弱于小模型。此時(shí),提升推理效率,要解決兩個(gè)矛盾。
第一個(gè)矛盾,芯片設(shè)計(jì)采取逢動(dòng)易慢的結(jié)構(gòu),方便存儲(chǔ)和計(jì)算分離。當(dāng)單元算力巨大,而存儲(chǔ)帶寬不足時(shí),將形成內(nèi)存墻,導(dǎo)致算力不匹配。
第二個(gè)矛盾,在長(zhǎng)文本輸出時(shí),前面是context階段,后面是decoding階段。兩個(gè)階段對(duì)GPU的利用率不一樣,這種不平衡也增加了大模型推理的難度。
此時(shí),京東云以大小模型協(xié)同的方式,讓大模型負(fù)責(zé)輸出通用能力,小模型負(fù)責(zé)實(shí)際推理執(zhí)行,一方面提升系統(tǒng)的覆蓋度和準(zhǔn)確率,另一方面亦可降低推理延時(shí)、保證隱私數(shù)據(jù)安全、節(jié)約算力。同時(shí),京東云在算法層采用后量化技術(shù)和參數(shù)共享,在體系結(jié)構(gòu)層力求更高效的訪問存儲(chǔ),在剛剛結(jié)束的11.11中,發(fā)揮了穩(wěn)定地技術(shù)價(jià)值。
服務(wù)+:打造健康助手 釋放技術(shù)溫度
無論是模型訓(xùn)練,還是模型推理,大模型牽手醫(yī)療健康以挑戰(zhàn)者和實(shí)干家的姿態(tài),推進(jìn)技術(shù)應(yīng)用落地。
京醫(yī)千詢?cè)ヂ?lián)網(wǎng)醫(yī)療健康場(chǎng)景,每日承接數(shù)十萬(wàn)人次的問診量,助力京東健康沉淀了億級(jí)高質(zhì)量問診數(shù)據(jù),其獨(dú)有的行業(yè)know how和領(lǐng)域知識(shí),不僅增強(qiáng)了模型能力,也提升了智能應(yīng)用的使用獲得感。
釋放技術(shù)溫度,打造用戶健康助手。當(dāng)老用戶的健康檔案產(chǎn)生了數(shù)據(jù)變化,大模型將在第一時(shí)間捕捉到這一信息,智能輔診功能可迅速判斷其健康狀態(tài),隨即推薦相應(yīng)的健康服務(wù),提供了一種主動(dòng)的、更具人情味的技術(shù)關(guān)懷。如果一個(gè)新用戶得了感冒,分不清風(fēng)寒抑或風(fēng)熱,無從選擇藥品,大模型可對(duì)接智能助手功能,實(shí)現(xiàn)對(duì)癥推薦。
提高診療效率,化身醫(yī)生工作助手。線上,大模型的文案生成能力,可幫助醫(yī)生降低文案書寫工作量。線下,患者看病,利用排隊(duì)就醫(yī)的時(shí)間,便可與大模型進(jìn)行交互,闡述病情。在醫(yī)生問診時(shí),分析交互信息,就能夠了解患者狀況,輔助決策。
京東云判斷,當(dāng)人人AI時(shí)代到來,大模型將愈加平民化,更多熟悉業(yè)務(wù)邏輯、了解行業(yè)know-how的個(gè)人和組織,以自然語(yǔ)言交互的方式,就能創(chuàng)建專屬智能應(yīng)用。當(dāng)下,京醫(yī)千詢所釋放的AI能力,開始改變醫(yī)療健康行業(yè)的不可能三角,將不可能變成可能。
本文源自:金融界資訊
- 免責(zé)聲明
- 本文所包含的觀點(diǎn)僅代表作者個(gè)人看法,不代表新火種的觀點(diǎn)。在新火種上獲取的所有信息均不應(yīng)被視為投資建議。新火種對(duì)本文可能提及或鏈接的任何項(xiàng)目不表示認(rèn)可。 交易和投資涉及高風(fēng)險(xiǎn),讀者在采取與本文內(nèi)容相關(guān)的任何行動(dòng)之前,請(qǐng)務(wù)必進(jìn)行充分的盡職調(diào)查。最終的決策應(yīng)該基于您自己的獨(dú)立判斷。新火種不對(duì)因依賴本文觀點(diǎn)而產(chǎn)生的任何金錢損失負(fù)任何責(zé)任。