AI 工具或許準確，但這不一定意味著它們能改善病患的健康結果。
我無需告訴你 AI 已經無所不在。
或者說，它正日益廣泛地被應用於醫院中。醫生們利用 AI 協助他們記錄病歷。基於 AI 的工具正在篩選病患的病歷，標記出可能需要特定支援或治療的病患。它們也被用於解讀醫療檢查結果和 X 光片。
越來越多的研究顯示，許多這類工具都能提供準確的結果。但這裡有一個更大的問題：使用這些工具是否真的能轉化為病患更佳的健康結果？
這正是密西根大學的電腦科學家 Jenna Wiens 和多倫多大學的 Anna Goldenberg 在本週《自然醫學》期刊上發表的一篇論文中所提出的論點。
Wiens 告訴我，她花了數年時間研究 AI 如何能造福醫療照護。在她職業生涯的最初十年，她試圖向臨床醫生推銷這項技術。她說，在過去幾年裡，情況彷彿「開關被打開了」。醫療照護提供者不僅對這些技術的前景表現出更大的興趣，也開始迅速部署它們。
問題在於，許多提供者並沒有嚴格評估它們的實際功效。
以「環境式 AI」工具為例。這些工具也稱為 AI 聽寫員，它們會「聆聽」醫生與病患之間的對話，然後進行轉錄和摘要。市面上有許多工具可供選擇，並且已經被醫療照護提供者廣泛採用。
幾個月前，紐約一家主要醫療中心的員工告訴我，他為醫生開發 AI 工具，據他所稱，醫護人員對這項技術「欣喜若狂」——它讓他們在看診時能將所有注意力集中在病患身上，並為他們節省了大量耗時的文書工作。早期研究支持這些軼事，並表明這些工具可以減輕臨床醫生的倦怠感。
這些都很好。但病患的健康結果又如何呢？Wiens 說：「[研究人員] 評估了提供者或臨床醫生和病患的滿意度，但並沒有真正評估這些工具如何影響臨床決策。」「我們根本不知道。」
這同樣適用於其他在醫療照護環境中使用的基於 AI 的技術。有些用於預測病患的健康軌跡，有些用於推薦治療方案。它們旨在使醫療照護更有效率。
但即使是「準確」的工具，也不一定能改善病患的健康結果。例如，AI 可能會加快胸部 X 光片的判讀速度。但醫生會多大程度上依賴其分析結果？該工具將如何影響醫生與病患互動的方式或推薦治療方案？最終，這對病患意味著什麼？
Wiens 說，這些問題的答案可能因醫院或科室而異，並可能取決於臨床工作流程。它們也可能因不同職業生涯階段的醫生而有所不同。
再以 AI 聽寫員為例。一些關於 AI 在教育中使用的研究表明，這類工具會影響人們認知處理資訊的方式。它們會影響醫生處理病患資訊的方式嗎？這些工具會以影響照護的方式，影響醫學生的病患數據思考方式嗎？Wiens 說，這些問題需要被探討。「我們喜歡節省時間的東西，但我們必須考慮到這其中潛在的意外後果，」她說。
在 2025 年 1 月發表的一項研究中，明尼蘇達大學的 Paige Nong 和她的同事發現，約有 65% 的美國醫院使用 AI 輔助的預測工具。其中只有三分之二的醫院評估了其準確性。更少數的醫院評估了它們是否存在偏見。
Wiens 說，使用這些工具的醫院數量可能自那時以來有所增加。這些醫院，或開發工具的公司以外的實體，需要評估它們在特定環境中的幫助程度。她說，有可能它們會讓病患的狀況變得更糟，儘管更有可能的是，AI 工具的效益並不像醫療照護提供者所假設的那樣大。
Wiens 說：「我確實相信 AI 有潛力真正改善臨床照護，」她強調自己並不希望阻止 AI 工具在醫療照護中的應用。她只是希望有更多關於它們如何影響人們的資訊。「我必須相信，未來不會是全 AI 或無 AI，」她說。「它會介於兩者之間。」