今年以來,DeepSeek仿若一顆人工智能領(lǐng)域的新星,,為很多行業(yè)的未來前景賦予了更多可能性,。據(jù)不完全統(tǒng)計,目前國內(nèi)已有超百家醫(yī)院接入DeepSeek,。在本市,,北京友誼醫(yī)院、北京清華長庚醫(yī)院,、北京大學(xué)第三醫(yī)院等多家醫(yī)院紛紛宣布完成本地化部署,。
這場AI革命如何重塑診療流程與管理范式?將為醫(yī)院服務(wù),、管理帶來怎樣的變化,?是否會代替醫(yī)生?如何規(guī)范其使用,?北京青年報記者深入多家醫(yī)院展開調(diào)查,。
入局
20余天完成本地化部署
DeepSeek落地多家醫(yī)院
2月27日上午9點26分,北京友誼醫(yī)院醫(yī)學(xué)數(shù)智創(chuàng)新中心,、信息中心向全院發(fā)布了一份滿血版DeepSeek大模型試用通知,,標(biāo)志著全院所有職工可通過三個院區(qū)4000余臺工作電腦使用滿血版(671B)DeepSeek-R1大模型。
在之前的20天里,,北京友誼醫(yī)院醫(yī)學(xué)數(shù)智創(chuàng)新中心辦公室副主任王力華既忙碌又忐忑,。作為一名深耕醫(yī)療技術(shù)領(lǐng)域30多年的管理者,王力華敏銳地觀察到,,“是時候了”,。假期還沒結(jié)束,她決定要把DeepSeek引進(jìn)來,。節(jié)后上班第一天,,她做了兩件事:向院領(lǐng)導(dǎo)提出部署申請,并順利得到了主管院領(lǐng)導(dǎo)的同意,;尋找算力支撐,,成功聯(lián)系合作伙伴聯(lián)通和華為。2月20日,系統(tǒng)正式搭建完成并展開內(nèi)測,。隨后幾日,,DeepSeek順利接入院內(nèi)用于診療工作的HIS系統(tǒng)、用于內(nèi)部辦公的OA系統(tǒng)等主要業(yè)務(wù)系統(tǒng),,并在4000余臺辦公電腦桌面進(jìn)行布局,。
一石激起千層浪,這個春節(jié)假期前后,,清華大學(xué)附屬北京清華長庚醫(yī)院醫(yī)學(xué)數(shù)據(jù)科學(xué)中心主任李棟也是一刻不得閑,,在他的日程表里,“研究DeepSeek”被列為最高優(yōu)先級,。
在節(jié)后首個工作日,,北京清華長庚醫(yī)院立刻組織院內(nèi)有關(guān)科室、技術(shù)團(tuán)隊準(zhǔn)備本地部署DeepSeek,。醫(yī)院前期積累的智慧醫(yī)院建設(shè)經(jīng)驗,、超前布局算力設(shè)施,讓接入DeepSeek的過程非常順利,?;诖饲伴_展的醫(yī)療數(shù)據(jù)深度治理,該院DeepSeek部署和數(shù)據(jù)訓(xùn)練幾乎同步進(jìn)行,?!癉eepSeek一接入,我們便將全院已完成治理的數(shù)據(jù)庫全部注入,,用優(yōu)質(zhì)的醫(yī)療專業(yè)數(shù)據(jù)去打磨訓(xùn)練,,從而將普通版DeepSeek迭代為‘清華長庚特制版’?!?/p>
北京清華長庚醫(yī)院所設(shè)想的“DeepSeek醫(yī)療矩陣”已初具規(guī)模:縱向上,,開放了155個端口覆蓋全院所有科室,并觸達(dá)所有緊密醫(yī)聯(lián)體單位,。橫向上,,未來計劃打通清華大學(xué)四家附屬醫(yī)院所有數(shù)據(jù),以海量專業(yè)數(shù)據(jù)訓(xùn)練持續(xù)提升模型精度,。
體驗
可視作高級輔助診斷工具
診斷結(jié)論仍需要醫(yī)生簽署
DeepSeek的強(qiáng)大功能讓不少敢于嘗鮮的醫(yī)生“直呼好用”,。北京友誼醫(yī)院病理科主任陳光勇驚嘆于DeepSeek嚴(yán)密的邏輯思考過程?!耙郧八阉餍畔ⅲ榈降慕Y(jié)果可能是一個點,,而DeepSeek能把點連成線,,甚至是一個面,可以幫助醫(yī)生拓寬視野,拓展思考問題的廣度和深度,,幫助查缺補(bǔ)漏和糾偏,。輸入的信息越多,搜索也會越精準(zhǔn),,可能會越來越接近于疾病本質(zhì),,功能非常強(qiáng)大?!?/p>
陳光勇對北京青年報記者表示,,目前將DeepSeek視作一款更高級的輔助診斷工具,最后做出診斷的主體依然是醫(yī)生,,DeepSeek給出的只是建議和可能性,,而由醫(yī)生簽發(fā)的診斷結(jié)論才是具備法律效力的。在北京友誼醫(yī)院內(nèi)分泌科副主任醫(yī)師于恒池看來,,DeepSeek有著人類不可比擬的優(yōu)勢,,比如海量的數(shù)據(jù)資源、強(qiáng)大的信息檢索能力,、快速的判斷推理能力,,能幫醫(yī)生搜集資料、拓寬視野,,也有助于患者進(jìn)行自我學(xué)習(xí),,節(jié)省醫(yī)生溝通成本。
最近,,北京清華長庚醫(yī)院做了一個試驗來驗證其可靠性,,發(fā)動醫(yī)生在DeepSeek中輸入了數(shù)千個病歷樣本,比對其診斷結(jié)果和醫(yī)生診斷結(jié)果,,發(fā)現(xiàn)兩者吻合度很高,。基于此,,李棟認(rèn)為,,DeepSeek在一些常見病診斷方面已達(dá)到了診療“基準(zhǔn)線”。
革新
改變醫(yī)院管理范式
破解痛點難點問題
“DeepSeek的到來將徹底改變醫(yī)院管理范式,,尤其是一些痛點,、難點將有望迎刃而解?!崩顥澅硎?,對于DeepSeek部署后的應(yīng)用場景,北京清華長庚醫(yī)院計劃用DeepSeek去推動院內(nèi)實物流,、信息流,、現(xiàn)金流、業(yè)務(wù)流的精細(xì)化管理,為醫(yī)院服務(wù)提質(zhì),。
在智能化管理方面,,定制化DeepSeek將全面覆蓋醫(yī)院168臺移動醫(yī)療護(hù)理車,以及超過120臺大型醫(yī)療儀器及全部電子簽名平板,,全面支持診療各環(huán)節(jié),,包括智能護(hù)理等核心業(yè)務(wù)場景;利用DeepSeek強(qiáng)大的數(shù)據(jù)分析能力,,醫(yī)保智能審核系統(tǒng)將更智慧,,進(jìn)一步提高不合理費(fèi)用的預(yù)警能力,減少不合理醫(yī)保支出,,降低醫(yī)保費(fèi)用拒付風(fēng)險,;通過DeepSeek科學(xué)分析預(yù)測醫(yī)療耗材使用量,可杜絕浪費(fèi),、減少積壓,、避免短缺;DeepSeek接入住院部各護(hù)理站后,,護(hù)士無需從住院藥房獲取首日量藥品,,可有效提升服務(wù)效率;在患者服務(wù)方面,,可利用DeepSeek升級醫(yī)院客戶端,,為患者給出掛號建議,避免跑錯科室,,提升患者就診體驗……
“我們關(guān)注的是能否用其有效整合醫(yī)院各科室的數(shù)據(jù)資源,,深度優(yōu)化臨床診療,在提高醫(yī)療品質(zhì)的同時,,把整體的醫(yī)療費(fèi)用降下來,,最終造福患者,。精細(xì)化管理上來了,,患者的體驗也將升級,必將助力醫(yī)院健康發(fā)展,?!崩顥澱f。
隱憂
診療涉及醫(yī)生經(jīng)驗人文關(guān)懷
短期內(nèi)無需擔(dān)憂AI替代醫(yī)生
隨著強(qiáng)大的DeepSeek的出現(xiàn),,也讓不少醫(yī)生擔(dān)憂:“天塌了”,。北青報記者注意到,已有部分患者拿著DeepSeek給出的建議和醫(yī)生診斷結(jié)果進(jìn)行對比,,似乎在挑戰(zhàn)醫(yī)生的權(quán)威,,由此引發(fā)人類醫(yī)生是否會被AI醫(yī)生替代的討論,。
在北京大學(xué)第一醫(yī)院核醫(yī)學(xué)科副主任醫(yī)師孫宏偉看來,,AI確實是醫(yī)學(xué)好幫手,,但他并不擔(dān)憂自己會被替代,“因為病情研判是一個專業(yè)而復(fù)雜的過程,,有很多靈活因素要考慮,,有賴于醫(yī)生的豐富經(jīng)驗。以用于腫瘤診斷的PET/CT為例,,PET/CT通過特異性探針觀察病灶葡萄糖代謝變化,。患者掃描的影像結(jié)果是明確的,,但做出診斷還要考慮諸多個體化因素,。患者的葡萄糖代謝水平受身高,、體重,、血糖,以及當(dāng)天的飲食,、睡眠,、視聽刺激等因素影響,需醫(yī)生綜合研判,。醫(yī)學(xué)診斷不是非黑即白,。”
大模型有個特點——答案高度依賴提問方式,,準(zhǔn)確輸入方能得到準(zhǔn)確輸出,。孫宏偉表示,使用DeepSeek提問時,,好比檢索文獻(xiàn),,輸入的關(guān)鍵詞不同,搜索的結(jié)果也會不一樣,?!搬t(yī)學(xué)診斷必須以專業(yè)性為基礎(chǔ),即使使用DeepSeek去檢索也有專業(yè)性問題,,否則很容易導(dǎo)致自己檢索的結(jié)果與醫(yī)生診斷大相徑庭,。”
于恒池注意到,,源頭數(shù)據(jù)庫的可靠性,、全面性會影響輸出結(jié)果。目前大眾能接觸到的DeepSeek屬于通用版,,雖涵蓋了海量的診療標(biāo)準(zhǔn),、診療案例,,但其中信息魚龍混雜,權(quán)威的,、核心的國內(nèi)外文獻(xiàn)數(shù)據(jù)是否全部囊括,?一些需要付費(fèi)的專業(yè)論文、知識庫是否涵蓋,?罕見病,、特殊病種數(shù)據(jù)是否納入?“其結(jié)論可靠性仍然存疑,,需謹(jǐn)慎對待,。”
“醫(yī)學(xué)也是一門人文學(xué)科,,涉及醫(yī)患間情感交流,,人文關(guān)懷是人工智能無法比擬的。尤其是像內(nèi)分泌科,,涉及慢病長期管理,,患者對醫(yī)生的依從性、信賴度也是治療結(jié)果的影響因素之一,,AI未必有同樣效果,。”于恒池說,。在李棟看來,,醫(yī)療遠(yuǎn)非單純的技術(shù)問題,更是一種社會行為,。醫(yī)生不僅要結(jié)合檢測指標(biāo)做判斷,,還要考慮患者心理及其社會因素,如職業(yè),、收入,、家庭環(huán)境、成長環(huán)境等等,,做出個體化診斷,,生物-心理-社會醫(yī)學(xué)模式幾乎貫穿診療全過程。
此外,,當(dāng)前的政策紅線亦不可觸碰,。早在2022年,國家衛(wèi)健委就規(guī)定“人工智能軟件等不得冒用,、替代醫(yī)師本人提供診療服務(wù)”“嚴(yán)禁使用人工智能等自動生成處方”,,2023年發(fā)布的《北京市互聯(lián)網(wǎng)診療監(jiān)管實施辦法(試行)》也提出了明確要求。也就是說,,目前AI無法直接進(jìn)行診斷或開具醫(yī)囑,。
規(guī)范
熱技術(shù)下的冷思考
亟須制定使用規(guī)則
對于患者隱私保護(hù)和數(shù)據(jù)安全,,目前,各家醫(yī)院大都采取了諸多技術(shù)進(jìn)行“加碼”,。友誼醫(yī)院要求每一個醫(yī)生在使用DeepSeek時必須對患者信息進(jìn)行脫敏,,包括患者姓名、身份證號,、手機(jī)號等,。該院數(shù)據(jù)依托的是私有云,是醫(yī)院內(nèi)部獨(dú)立,、封閉的一套數(shù)據(jù)系統(tǒng),不會向外網(wǎng)傳輸,。在北京清華長庚醫(yī)院,,醫(yī)院信息系統(tǒng)建立了防火墻、入侵檢測系統(tǒng)等多重防護(hù),,醫(yī)院信息部會隨機(jī)對系統(tǒng)進(jìn)行安全評估和漏洞掃描,。患者數(shù)據(jù)信息采用多重加密技術(shù),,信息訪問也有明確限制,。
北京清華長庚醫(yī)院也在著手制定相關(guān)規(guī)則去規(guī)范AI的使用。比如,,規(guī)定使用AI輔助診斷時所有結(jié)果必須進(jìn)行人工審核,;各類疾病診斷,尤其是高風(fēng)險復(fù)雜疾病如使用AI輔助,,只能作為參考,,最終診斷權(quán)必須在醫(yī)生;一些包含高敏感信息或高度依賴人工判斷的科室,,如精神科目前還限制AI的大范圍應(yīng)用,。
在李棟看來,以DeepSeek為代表的大模型已經(jīng)開始影響診療各個環(huán)節(jié),,甚至?xí)厮茚t(yī)療領(lǐng)域,。國家也在鼓勵A(yù)I賦能醫(yī)療,2024年11月6日,,國家衛(wèi)生健康委等部門聯(lián)合印發(fā)《衛(wèi)生健康行業(yè)人工智能應(yīng)用場景參考指引》,,涵蓋了醫(yī)療服務(wù)管理、基層公衛(wèi)服務(wù),、健康產(chǎn)業(yè)發(fā)展,、醫(yī)學(xué)教學(xué)科研四大領(lǐng)域的84個具體應(yīng)用場景。
“我們鼓勵A(yù)I+醫(yī)療,,但還有許多規(guī)則需要及時制定,,去理清概念,、權(quán)責(zé),明確規(guī)范,。既不能管得太死,、限制人工智能的發(fā)展活力,又不能放得太松,,否則會對百姓生命健康帶來潛在的風(fēng)險,,這非常考驗相關(guān)部門在AI時代下的管理能力,。其實我們的最終目的就是讓老百姓用上放心的AI醫(yī)療產(chǎn)品,。”李棟說,。
當(dāng)前,,DeepSeek還是一個通用模型,對于將來更加專業(yè)化的道路,,陳光勇也有自己的憧憬:依托DeepSeek建立更多亞??拼竽P停苿蛹膊≡\療的專業(yè)化,,造福更多患者,。
對于DeepSeek給醫(yī)療行業(yè)帶來的變革,北青報記者專門向DeepSeek提問,,正如其回答所言:“從聽診器到AI,,工具在變,但醫(yī)學(xué)溫度永恒,。醫(yī)療AI的終極目的不應(yīng)是替代醫(yī)生,,而是讓‘超級醫(yī)生’能力更加普惠?!?/p>
·對話·
患者對是否接受AI診療享有知情同意權(quán)
對話人:北京大學(xué)醫(yī)學(xué)部倫理法律副教授劉瑞爽
北青報:當(dāng)前醫(yī)院引入AI可能面臨哪些風(fēng)險,?
劉瑞爽:AI引入醫(yī)療可能會涉及合法性、公平性,、透明性,、安全性、可靠性,、隱私及個人信息保護(hù),、知識產(chǎn)權(quán)歸屬、責(zé)任劃分,、技術(shù)性失業(yè)和法律監(jiān)管等多方面,。例如合法性問題,AI參與診療服務(wù)是否擁有行政許可,、是否具備相應(yīng)資質(zhì),?再如,,AI系統(tǒng)參與醫(yī)療資源分配,涉及醫(yī)療公平,、消除偏見等問題,;還如,假設(shè)監(jiān)管部門對AI參與診療準(zhǔn)入,,還存在對AI整個生命周期如何持續(xù)監(jiān)管的問題,。
北青報:當(dāng)醫(yī)生使用AI進(jìn)行診斷發(fā)生誤診時,責(zé)任應(yīng)如何界定,?
劉瑞爽:現(xiàn)階段來看,,AI并不具備執(zhí)業(yè)醫(yī)師資格,沒有獨(dú)立診療的權(quán)利,,應(yīng)當(dāng)被定位為輔助診斷工具,,診療不能僅靠AI的建議。如AI參與診療活動出現(xiàn)誤診等情況,,依據(jù)現(xiàn)行法律,構(gòu)成醫(yī)療損害責(zé)任的,,應(yīng)當(dāng)由醫(yī)生或醫(yī)院承擔(dān)相應(yīng)責(zé)任,。
但是,AI介入醫(yī)患關(guān)系中后,,參與主體除了傳統(tǒng)的法律主體之外,,具備高自主選擇能力的、具有“黑箱性”的AI系統(tǒng)成為醫(yī)療活動因果鏈條上不可忽視的一部分,。那么,,因其沒有法律主體資格,所以AI自身不能承擔(dān)法律責(zé)任,。如果能確定誤診是由設(shè)計者(如程序員),、部署者(如醫(yī)院)、應(yīng)用者(如醫(yī)務(wù)人員)等哪一方造成的,,可按現(xiàn)行法律歸責(zé),。但AI的加入,導(dǎo)致難以確定是哪一方造成的,,即算法問題,、模型問題、輸入數(shù)據(jù)問題還是輸出錯誤建議問題等難以確定,;此外,,AI到底是傳統(tǒng)意義上的產(chǎn)品、技術(shù)還是醫(yī)療服務(wù)的一部分,,現(xiàn)行法律也尚不明確,。因此,,傳統(tǒng)的侵權(quán)責(zé)任歸責(zé)原則受到挑戰(zhàn),AI參與的,,甚至是純屬AI導(dǎo)致的損害,,如沿用現(xiàn)行法律一律由醫(yī)療機(jī)構(gòu)或設(shè)計者擔(dān)責(zé),恐出現(xiàn)責(zé)任劃分不公平,,導(dǎo)致利益失衡,。
北青報:AI的介入是否會加劇醫(yī)療機(jī)構(gòu)之間的水平差異?
劉瑞爽:技術(shù)的差距可能導(dǎo)致馬太效應(yīng),,需引起重視,。一些資金雄厚、患者數(shù)據(jù)豐富的頭部醫(yī)院或能布局質(zhì)量好的人工智能,,訓(xùn)練出更精準(zhǔn)的AI模型提升醫(yī)療服務(wù)質(zhì)量,,可先行帶動醫(yī)療AI發(fā)展,但也需注意AI發(fā)展的均衡性,。其他醫(yī)療機(jī)構(gòu)尤其是基層機(jī)構(gòu)往往因數(shù)據(jù)不足,、財力投入不夠等,在AI引入方面能力有限,。這將加劇技術(shù)鴻溝,、形成技術(shù)壁壘,進(jìn)一步拉大頭部醫(yī)院與其他醫(yī)療機(jī)構(gòu)的水平差異,,讓民眾看病更加涌向頭部醫(yī)院,,與我國分級診療制度不符。因此,,有關(guān)部門應(yīng)重視這一問題,,建立AI醫(yī)療資源共享制度,讓更多機(jī)構(gòu)共享技術(shù)發(fā)展紅利,。
北青報:您對AI醫(yī)療監(jiān)管有何建議,?
劉瑞爽:醫(yī)療AI事關(guān)民眾的生命健康、人身安全,、財產(chǎn)安全,、人格尊嚴(yán)等和重大權(quán)益,必須規(guī)范行業(yè)發(fā)展,,把相關(guān)的監(jiān)管體系和規(guī)則制度建立起來,。例如,國家層面推動全社會廣泛參與醫(yī)療AI的立法進(jìn)程,,建立健全相關(guān)AI系統(tǒng),、AI模型以及含AI 醫(yī)療產(chǎn)品的準(zhǔn)入制度,保障診療的準(zhǔn)確性和安全性,避免無序發(fā)展,、各自為政,。醫(yī)院層面必須建立完善的AI質(zhì)量管理體系,防范風(fēng)險,。如AI數(shù)據(jù)治理方面要做好患者隱私及個人信息保護(hù),;建立問責(zé)制,構(gòu)建包含日志追溯,、數(shù)據(jù)審計的透明化系統(tǒng),,保證數(shù)據(jù)可追溯、可問責(zé),。此外,,患者的意見非常重要,患者對是否接受AI參與的診療,,原則上享有知情同意權(quán),,包括拒絕AI參與診療的權(quán)利。
編輯:李華山