隨著人工智能應(yīng)用逐漸深入我們的日常生活，與人工智能相關(guān)的各種消息也不斷涌現(xiàn)。近期，有自媒體發(fā)布消息稱，從大三甲醫(yī)院到社區(qū)診所，從大城市到鄉(xiāng)村，“AI醫(yī)生”已經(jīng)因為“誤診”闖了很多禍。這類“AI醫(yī)生誤診”消息發(fā)布后，因為離奇的劇情、情感的沖突吸引網(wǎng)友大量轉(zhuǎn)發(fā)。
上海一重癥肺炎患者被AI誤診險喪命？謠言！自動播放
近日，有自媒體發(fā)布“AI醫(yī)生闖大禍！上海一患者被誤診肺炎險喪命”，消息一經(jīng)發(fā)布，就在網(wǎng)上大量傳播，消息稱，4月5日，上海徐匯區(qū)某社區(qū)醫(yī)院上演驚險一幕，一名65歲患者因咳嗽發(fā)燒就診，AI輔助診斷系統(tǒng)將其癥狀判定為“普通感冒”，僅開具退燒藥，然而，患者回家后病情迅速惡化，家屬連夜送醫(yī)，經(jīng)三甲醫(yī)院確診為重癥肺炎合并感染性休克，搶救后脫險。
為了增加可信度，該消息還堂而皇之地引用上海某三甲醫(yī)院呼吸科主任對AI模型的“爆料”、律師協(xié)會數(shù)據(jù)甚至是國家衛(wèi)生健康委發(fā)布會口徑來佐證故事的真實性，一經(jīng)發(fā)布，就引起了網(wǎng)友的廣泛關(guān)注。但是經(jīng)過核查，不僅文中提及的醫(yī)生不存在，協(xié)會數(shù)據(jù)不存在，就連相關(guān)部門發(fā)布會的內(nèi)容也是偽造的，是徹頭徹尾的假消息。
全國首例AI醫(yī)療誤診案開庭？謠言！自動播放
除了漏洞百出、粗制濫造的AI誤診謠言之外，記者還注意到，不少“精裝”版的甚至是由AI輔助生成的AI誤診謠言，也出現(xiàn)在了網(wǎng)絡(luò)上。
時間、地點清晰明了，案情介紹詳細。這篇標題為“全國首例‘AI醫(yī)療誤診訴訟案’開庭，算法責任界定成焦點”的文章，3月份出現(xiàn)在某網(wǎng)絡(luò)平臺上。據(jù)文章稱：北京市民張女士因持續(xù)胸痛前往某三甲醫(yī)院就診。接診醫(yī)生使用院內(nèi)部署的“智診AI系統(tǒng)”進行輔助診斷。然而，張女士次日突發(fā)急性心肌梗死，搶救無效死亡。2025年3月13日，全國首例“AI醫(yī)療誤診”訴訟案在北京市海淀區(qū)人民法院正式開庭。
這篇文章發(fā)布后，立即引發(fā)了網(wǎng)友熱烈討論。總臺央視《法治在線》記者與法院進行了核實。
北京市海淀區(qū)人民法院立案庭副庭長 申進：我們在立案，還有審判相關(guān)的系統(tǒng)，我們都查找過了，確實沒有發(fā)現(xiàn)這個相關(guān)的案件。
這篇文章還著重分析了這起所謂AI醫(yī)療誤診案件所涉及的庭審爭議焦點，詳細列明了AI公司、醫(yī)院方以及醫(yī)生的相關(guān)主張，可謂是信息量十足，收獲了網(wǎng)友百余條的回復(fù)討論。而專家表示，這篇文章有可能是AI生成的。
清華大學(xué)新聞與傳播學(xué)院 人工智能學(xué)院教授 沈陽：現(xiàn)在使用AI是比較容易生成一篇包含所有新聞要素的文章的，包括時間、地點、人物、事件，它可以自動給你腦補上，并且可以把所有的細節(jié)都設(shè)計好。這篇文章第一是細節(jié)都比較充分，第二有些詞語很專業(yè)，這也是AI謠言的一個特征，它在任何專業(yè)方向上都可以使用層級比較深的專業(yè)詞匯，所以專業(yè)性也使得這種文章看上去特別能夠迷惑人。
起底以“AI醫(yī)生”為主角謠言編造套路自動播放
梳理這些謠言我們不難發(fā)現(xiàn)，它們既利用公眾對醫(yī)療服務(wù)的關(guān)注，又利用公眾對AI技術(shù)在醫(yī)療領(lǐng)域應(yīng)用的不了解，來編造故事。這類以“AI醫(yī)生”為主角的謠言，其套路主要包括以下幾個步驟：
首先，這類謠言中，事件起因大多是某醫(yī)院采用AI代替醫(yī)生看病開方，隨后劇情反轉(zhuǎn)出現(xiàn)醫(yī)療事故，最后被判罰天價賠償。
在這個過程中，造謠者還加入所謂“官方媒體報道”“權(quán)威機構(gòu)統(tǒng)計”“行業(yè)專家分析”等細節(jié)，以獲取信任。
此外，這些謠言往往充滿戲劇性，制造矛盾，放大焦慮，以便推動網(wǎng)友擴散，幫助造謠者獲得點擊量和關(guān)注度。
目前不允許AI取代醫(yī)生進行診療或開處方自動播放
目前，AI在診療行為當中擔任的角色是什么？我們是否需要擔心謠言中類似“誤診”情況的發(fā)生呢？
對于AI在醫(yī)療領(lǐng)域的應(yīng)用，根據(jù)規(guī)定，人工智能軟件等不得冒用、替代醫(yī)師本人提供診療服務(wù)；處方應(yīng)由接診醫(yī)師本人開具，嚴禁使用人工智能等自動生成處方。此外，去年11月，國家衛(wèi)生健康委等部門也聯(lián)合發(fā)布《衛(wèi)生健康行業(yè)人工智能應(yīng)用場景參考指引》，涵蓋了醫(yī)療服務(wù)管理、基層公衛(wèi)服務(wù)、健康產(chǎn)業(yè)發(fā)展和醫(yī)學(xué)教學(xué)科研四大類84種具體場景，發(fā)揮AI在醫(yī)療中的作用。但在這些場景中，按照規(guī)定，AI發(fā)揮的都是輔助作用。目前各醫(yī)療機構(gòu)公布的AI應(yīng)用于診療的內(nèi)容，指的也是AI輔助診療技術(shù)的落地。
上海政法學(xué)院人工智能法學(xué)院院長、教授、博士生導(dǎo)師 楊華：因為醫(yī)生看病他跟病人有一個互動，包括你的情緒、狀態(tài)，甚至一個眼神都可以傳遞某些信息。另外，AI看病之后出現(xiàn)的責任，到底是醫(yī)生的責任，還是醫(yī)院的責任，還是算法的責任，還是AI機器人公司的責任？沒有法律的邊界，所以說法律上還不允許AI有處方權(quán)。
平臺責任 源頭治理 遏制虛假信息傳播自動播放
AI在醫(yī)療領(lǐng)域的應(yīng)用越來越廣泛，隨之而來的謠言侵擾也對行業(yè)的發(fā)展造成了影響。如何從源頭識別和遏制虛假信息的發(fā)布，是目前各方需要解決的問題。
前不久，國家互聯(lián)網(wǎng)信息辦公室等多部門聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標識辦法》，提出對于AI生成的信息要強制添加顯式和隱式標識等規(guī)范要求，所有AI生成的文字、圖片、視頻等內(nèi)容，都要“亮明身份”，提高生成信息的可辨識度。
中國政法大學(xué)法治文化研究所所長 宋慶寶：受眾是方方面面的，可能有一些對于謠言鑒定能力不是很強。這時非常重要的一點，媒體尤其這個平臺，它應(yīng)該承擔主體責任。
同時，專家表示，造謠并非沒有成本，如果造成一定社會影響，造謠者將面臨法律的嚴懲。
上海政法學(xué)院人工智能法學(xué)院院長、教授、博士生導(dǎo)師 楊華：如果有這種謠言，你擾亂公共秩序，我們可以采取行政拘留，一定的罰款。如果謠言對某些企業(yè)點對點的，或者能夠證明對企業(yè)的商譽或者名譽產(chǎn)生了損害，可以承擔民事責任。情節(jié)比較嚴重的，承擔刑事責任。
（總臺央視記者 鄭怡哲 趙酉龍 李紅葉 王殿甲 苗毅萌）
鄭重聲明：本文版權(quán)歸原作者所有，轉(zhuǎn)載文章僅為傳播更多信息之目的，如作者信息標記有誤，請第一時間聯(lián)系我們修改或刪除，多謝。
