隨著人工智能應(yīng)用逐漸深入我們的日常生活，與人工智能相關(guān)的信息也不斷涌現(xiàn)。前不久，一條內(nèi)容為全國(guó)首例“AI醫(yī)療誤診”訴訟案開庭的文章，發(fā)布在某網(wǎng)絡(luò)平臺(tái)上。文章不僅對(duì)這起案件做了詳細(xì)的介紹，還著重分析了案件的庭審焦點(diǎn)和法律問(wèn)題。然而經(jīng)《法治在線》記者核實(shí)，這篇煞有其事的文章完全是子虛烏有的虛假信息。
時(shí)間、地點(diǎn)清晰明了，案情介紹頗為詳細(xì)。這篇標(biāo)題為“全國(guó)首例‘AI醫(yī)療誤診訴訟案’開庭，算法責(zé)任界定成焦點(diǎn)”的文章3月13日在某網(wǎng)絡(luò)平臺(tái)上發(fā)布。
據(jù)文章稱：2025年3月13日，全國(guó)首例“AI醫(yī)療誤診”訴訟案在北京市海淀區(qū)人民法院正式開庭。文章還對(duì)這起案件的基本案情做了詳細(xì)介紹，稱2024年12月，北京市民張女士因持續(xù)胸痛前往某三甲醫(yī)院就診。接診醫(yī)生使用院內(nèi)部署的“智診AI系統(tǒng)”進(jìn)行輔助診斷。然而，張女士次日突發(fā)急性心肌梗死，搶救無(wú)效死亡。
這篇文章發(fā)布后，立即引發(fā)了網(wǎng)友對(duì)這起所謂誤診案的熱烈討論。那么究竟是否有這樣一起案件在北京市海淀區(qū)人民法院開庭審理呢？《法治在線》記者與法院進(jìn)行了核實(shí)。
北京市海淀區(qū)人民法院立案庭副庭長(zhǎng) 申進(jìn)：我們?cè)诹福€有審判這個(gè)相關(guān)的系統(tǒng)呢，我們都查找過(guò)了，確實(shí)沒(méi)有發(fā)現(xiàn)這個(gè)相關(guān)案件。
經(jīng)記者與法院核實(shí)，既沒(méi)有相關(guān)案件在當(dāng)天開庭，也沒(méi)有文中所提到的案件在法院進(jìn)行立案，文中所謂的庭審?fù)耆亲犹摓跤械奶摷傩畔ⅲ淮嬖谌珖?guó)首例醫(yī)療誤診案一說(shuō)。
清華大學(xué)新聞與傳播學(xué)院 人工智能學(xué)院教授 沈陽(yáng)：現(xiàn)在使用AI是比較容易生成一篇包含所有新聞要素的文章的，包括時(shí)間、地點(diǎn)、人物、事件，這些AI因?yàn)槭且粋€(gè)概率推理的模型的話，它可以自動(dòng)的給你腦補(bǔ)上，并且可以把所有的細(xì)節(jié)都設(shè)計(jì)好。
那么還有哪些虛假信息的展現(xiàn)，令這篇文章看上去極具迷惑性呢？
雖然文章提到的庭審信息和案件內(nèi)容并不存在，但它依然使用大篇幅，著重分析了這起所謂AI醫(yī)療誤診案件所涉及的庭審爭(zhēng)議焦點(diǎn)，并詳細(xì)列明了AI公司、醫(yī)院方以及醫(yī)生的相關(guān)主張。此外文章還從法律困境、行業(yè)影響等多個(gè)板塊進(jìn)行了討論分析，可謂是信息量十足。而這篇看似極具專業(yè)性的分析收獲了網(wǎng)友百余條的回復(fù)討論。
清華大學(xué)新聞與傳播學(xué)院 人工智能學(xué)院教授 沈陽(yáng)：這篇文章第一是細(xì)節(jié)都比較充分，第二有些詞語(yǔ)很專業(yè)，這也是AI謠言的一個(gè)特征，正常的人寫文章的時(shí)候，這個(gè)人只有具備某個(gè)方向的專業(yè)知識(shí)，他才能使用專業(yè)詞匯，但是對(duì)AI來(lái)說(shuō)，因?yàn)槭腔旧衔樟巳祟惾康墓_知識(shí)，這種情況下，它在任何專業(yè)方向上都可以使用層級(jí)比較深的專業(yè)詞匯，所以專業(yè)性也使得這種文章看上去特別能夠迷惑人。
信息多、細(xì)節(jié)多、分析角度多，這樣極具迷惑性的謠言文章非常容易以假亂真，這又會(huì)給公眾帶來(lái)怎樣的影響和危害呢？
清華大學(xué)新聞與傳播學(xué)院 人工智能學(xué)院教授 沈陽(yáng)：它會(huì)誤導(dǎo)大家，本來(lái)真實(shí)世界當(dāng)中是沒(méi)有這樣的事，現(xiàn)在捏造了這樣的一個(gè)事件，就會(huì)對(duì)人的認(rèn)知產(chǎn)生一個(gè)印象，比如說(shuō)我們就認(rèn)為這篇文章談到的某些觀點(diǎn)是對(duì)的，或者某個(gè)事實(shí)是對(duì)的，這樣對(duì)于人類在下一次做決策的時(shí)候，肯定是會(huì)產(chǎn)生影響的。所以我想編制的謠言，有的有即時(shí)的思想上的影響和行動(dòng)上的影響，還有的謠言是有長(zhǎng)遠(yuǎn)的影響，潛移默化地改變一些認(rèn)知，所以我想就這一類謠言還是有相當(dāng)危害的。
近年來(lái)，利用人工智能生成的文章在網(wǎng)絡(luò)蔓延，真假難辨。虛假信息擴(kuò)散的加劇也引發(fā)了社會(huì)的廣泛關(guān)注。
為了促進(jìn)人工智能健康發(fā)展，規(guī)范人工智能生成合成內(nèi)容標(biāo)識(shí)，近日，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國(guó)家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，自2025年9月1日起施行。《標(biāo)識(shí)辦法》提出強(qiáng)制添加顯式和隱式標(biāo)識(shí)等規(guī)范要求，所有AI生成的文字、圖片、視頻等內(nèi)容，都要“亮明身份”。
清華大學(xué)新聞與傳播學(xué)院 人工智能學(xué)院教授 沈陽(yáng)：比如說(shuō)一篇文章是AI生成的，如果涉及到事實(shí)，一定要把它標(biāo)注出來(lái)，這是AI生成的。并且在轉(zhuǎn)載傳播過(guò)程當(dāng)中，不能把是AI生成的標(biāo)識(shí)給刪除，所以我覺(jué)得這個(gè)是一個(gè)非常重要的起點(diǎn)。第二個(gè)就是每個(gè)人在發(fā)布什么信息的時(shí)候，心里面一定要有數(shù)，這個(gè)是AI生成的嗎？發(fā)布出去會(huì)對(duì)大家造成什么樣的影響？所以在傳播的起點(diǎn)，進(jìn)行嚴(yán)格的審核，這個(gè)是非常重要的，對(duì)于每個(gè)人來(lái)說(shuō)，都應(yīng)該提高AI的素養(yǎng)，應(yīng)該知道哪些AI的內(nèi)容是可以進(jìn)行傳播，哪些AI的內(nèi)容生成的謬誤的信息是不應(yīng)該傳播的，要有一個(gè)甄別能力，否則就變成了自己被動(dòng)或者主動(dòng)地參與傳播謠言了。
編輯：李華山
