未來 AI 會如何影響臨床決策支援系統(CDSS)？JAMA 有篇文章這麼說

不知道大家在臨床工作時，有沒有遇過這種情況：

系統突然跳出一個用藥警示。

內容不能說錯，但看完之後，心裡還是會忍不住想：

例如，一位 58 歲病人符合 statin 治療條件。

系統根據年齡、血脂數值與心血管風險， 很盡責地提醒醫師：

但醫師真正需要知道的，可能是：

• 這位病人以前有沒有被建議過 statin？
• 他是否曾經拒絕？拒絕的原因又是什麼？
• 以前是否服用過 statin， 後來因為肌肉疼痛而停藥？
• 處方雖然開過，病人真的有去領藥嗎？
• 病人是不是曾在醫病溝通平台中表示， 擔心 statin 會影響記憶力？

這些答案，可能散落在不同日期的門診紀錄、 領藥資料、病人訊息，以及醫療團隊的紀錄中。

於是，系統雖然正確判斷病人「符合治療條件」， 卻沒有告訴醫療人員：

最近 JAMA 刊登了一篇 Perspective 觀點文章， 討論生成式 AI 未來應該如何改變臨床決策支援系統。

文章提出的重點並不是：

反而是：

AI 的價值，不只是「讀得懂病歷」

過去的臨床決策支援系統 （Clinical Decision Support System, CDSS）， 多半依賴結構化資料，例如：

• 年齡、性別
• 診斷碼
• 檢驗數值
• 腎功能
• 藥品名稱與劑量

系統再利用預先設定好的規則進行判斷。

例如：

這種規則的優點是明確、可測試， 而且同樣的輸入通常會得到相同結果。

但它的限制也很明顯。

真實世界的臨床資訊， 不會全部整整齊齊地放在結構化欄位中。

許多會影響決策的重要內容， 可能藏在醫師病程紀錄、藥師照會、 護理紀錄、出院摘要、病人訊息， 或過去的用藥與停藥經過中。

大型語言模型真正可能增加的價值， 是將這些分散、表達方式不一致的資訊整理起來， 並且 圍繞著一個明確的臨床決策 呈現。

意思是，我們不應該只是把整份病歷交給 AI， 然後問：

而是先明確界定問題，例如：

這樣一來， AI 的工作不是自由發揮， 而是在一個清楚的範圍內， 協助醫療人員整理前因後果。

不是所有事情都需要生成式 AI

這篇文章中， 我很喜歡的一個觀念是：

對於明確、可以直接計算的條件， 傳統規則仍然比較合適。

• 是否超過最大劑量
• 是否有重複成分
• 腎功能是否低於禁用門檻
• 是否存在明確的藥物禁忌症
• 是否符合特定年齡或性別限制

這些項目需要的是一致、可追蹤， 而且容易驗證的結果。

不需要讓 AI 每次重新「思考」一次。

生成式 AI 比較適合的，則是：

• 跨多份病歷整理事件經過
• 彙整病人先前不接受治療的原因
• 整理不同時間點的用藥變化
• 根據門診、住院或不同醫療角色 調整呈現方式
• 替原本只有一句話的警示， 補上真正影響決策的脈絡

未來的 CDSS，不一定要變成聊天室

提到生成式 AI， 很多人可能會先想到：

但作者認為， LLM-enabled CDSS 不需要以聊天介面為主。

對於常見而且可以預期的決策， 系統可以直接在原本的工作流程中， 提供一段精簡摘要。

每一句話都可以連回原始資料與紀錄日期。

醫療人員不需要先開啟聊天室， 也不必花時間輸入問題。 只有需要進一步了解時， 才展開資料或追問。

AI 產生的每一句話，都應該找得到來源

臨床上不能只看到 AI 說：

我們還需要知道：

• 這項資訊來自哪一份紀錄？
• 紀錄日期是什麼時候？
• 是病人自述、醫療人員觀察， 還是 AI 的推論？
• 後來是否有其他紀錄修正這項資訊？

因此，作者主張 AI-CDSS 的重要敘述應該附上： 資料來源、紀錄日期、相關證據， 以及是否為模型推論。

因為 AI 的錯誤， 不一定是憑空虛構一件事。

它也可能漏掉關鍵紀錄、 把不同時間的事件混在一起、 將暫時停藥理解成永久停藥， 或把推論寫得像已經確認的事實。

AI 記得的醫學知識，不代表一定正確或最新

大型語言模型在訓練過程中 學到很多醫學知識。

但我們通常無法完整確認：

• 它參考了哪一版指引
• 記得的是新建議還是舊建議
• 是否同時學到了互相衝突的內容
• 更新模型後， 舊知識是否真的被移除

真正具有權威性的臨床知識， 最好保存在：

• 經過審查的外部知識庫
• 有版本與日期的指引
• 可追溯的院內規範
• 已驗證的藥品與臨床資料來源

當模型原本記得的內容， 和目前檢索到的權威來源不同時， 系統應該遵循權威來源。

資料不足或彼此衝突時， AI 也應該能夠說：

有人負責確認，不代表就一定安全

很多人談到醫療 AI 的安全性時， 會說：

但這篇文章也提醒了 automation bias（自動化偏誤） 。

當一套系統大多數時候都能提供正確答案， 使用者可能會逐漸降低警覺。

尤其當 AI 的文字看起來很流暢、 條理很清楚， 又附上很多病歷資訊時， 我們可能更容易忽略其中 少數但重要的錯誤。

AI 系統上線後，才是治理的開始

傳統規則型 CDSS 可以在上線前準備許多標準案例， 確認哪些情況應該觸發、 哪些情況不應該觸發。

但大型語言模型的結果， 可能受到模型版本、指令內容、 資料檢索方式、外部知識庫 與系統更新等因素影響。

所以，即使正式上線前測試表現很好， 也不代表未來都不會出現問題。

系統正式使用後， 仍要持續監測：

• 是否漏掉重要資訊
• 是否發生時間順序錯誤
• 是否出現無依據的敘述
• 是否遵循最新權威來源
• 某些病人族群是否特別容易出錯
• 模型更新後是否出現退步
• 系統究竟減少， 還是增加了工作負擔

對藥師而言，未來可能不只是「處理警示」

我覺得這篇文章真正值得藥師思考的， 不只是 AI 會不會取代某些工作。

例如在藥品 CDSS 中， 藥師可能需要協助決定：

• 哪些條件一定要由固定規則判斷？
• 哪些資訊可能改變臨床處置？
• 哪些警示真的值得呈現？
• AI 整理資訊時 必須附上哪些來源？
• 什麼情況下系統應該拒絕回答？
• 系統出錯時， 由誰負責修正與追蹤？

傳統系統可能只會告訴我們：

未來的系統， 則可能進一步整理：

• 其中一項藥物是因培養結果 而開始的目標治療。
• 目前沒有合適的替代藥物。
• 病人的相關生命徵象 與檢驗值暫時穩定。
• 此次較適合的處理方式 可能是加強監測， 而不是直接停藥。

交互作用是否存在， 仍由明確的藥品知識與規則判定。

但 AI 可以幫助我們理解：

最後想說

這篇文章並沒有證明， 生成式 AI 已經可以改善病人預後、 減少用藥錯誤， 或降低醫療人員的工作負擔。

它是一篇觀點文章， 提出的是一套未來 CDSS 的設計方向， 而不是臨床成效的證據。

但我很喜歡文章中的一個核心概念：

生成式 AI 最有價值的角色， 或許不是替醫療人員下決定。

而是將散落在病歷中的資訊整理好， 讓我們更快看懂：

• 過去發生了什麼
• 病人真正擔心什麼
• 哪些因素正在阻礙治療
• 現在最值得處理的問題是什麼

這可能才是未來 AI 與 CDSS 最理想的合作方式。