根據安大略省審計長辦公室對20家獲批准供應商的AI醫療記錄系統進行的審查，這些系統經常錯誤記錄處方藥物、遺漏重要細節，甚至捏造患者和醫護人員未曾提及的內容。

這份報告是安大略省公共服務AI應用狀況的綜合調查的一部分，特別針對由安大略衛生部推動的AI醫療記錄計畫，該計畫服務於醫師、護理師及其他醫療專業人員。

在採購過程中，官員們使用模擬醫病對話錄音進行評估，醫療專業人員比較原始錄音與AI生成的筆記，評估其準確性。

結果令人震驚。20套系統中有9套「捏造資訊並對患者治療方案提出未討論的建議」。報告指出，評估者在樣本報告中發現可能造成嚴重後果的錯誤資訊，例如報告中提及未發現腫塊或患者焦慮，然而這些內容在錄音中根本未被提及。

另外，有12套系統在患者筆記中插入錯誤的藥物資訊，17套系統「遺漏了錄音中提及的患者心理健康問題」，其中6套系統完全或部分遺漏患者心理健康狀況或關鍵細節。

協助醫師採用新技術的OntarioMD組織參與了AI醫療記錄系統的採購，建議醫師手動審核AI生成的筆記以確保準確性，但報告指出，目前沒有任何獲批准系統設有強制的準確性確認功能。

AI系統出錯並非新鮮事。先前報導指出，面向消費者的AI常提供錯誤醫療資訊，且部分研究發現大型語言模型在約80%的測試案例中無法給出適當的鑑別診斷。但本次評估的工具是供醫師使用，這種低準確度令人擔憂。報告部分原因歸咎於評估標準的設計。

報告指出，AI醫療記錄系統評分標準權重分配不合理。平台評分中有30%僅依據是否在安大略省設有本地據點，而醫療筆記的準確性僅占4%。

偏見控制僅占2%，威脅、風險及隱私評估占2%，SOC 2 Type 2合規性占4%。換言之，與準確性、偏見控制及關鍵安全隱私保障相關的評分比例非常低。

報告警告：「不合理的權重分配可能導致選擇出產生不準確或有偏見醫療記錄，或缺乏足夠保護敏感個人健康資訊的供應商。」

《註冊報》曾向安大略衛生部詢問對報告的看法及是否會依建議調整AI醫療記錄計畫，但未立即獲回應。衛生部發言人週三向CBC表示，超過5,000名安大略醫師參與該計畫，目前尚無已知患者因該技術受害的報告。