猶他州允許 AI 系統在沒有醫生監督的情況下處方精神科藥物。這是該州乃至全國第二次將這類臨床授權委託給 AI。州政府官員表示，此舉有望降低成本並緩解醫療照護短缺問題，但醫師們警告，該系統不透明、風險高，且不太可能擴大精神健康照護的服務範圍。

該 AI 聊天機器人將在某些情況下續訂特定的精神科藥物處方。

該計畫的範圍刻意縮小，無論是涵蓋的藥物種類還是患者的資格要求都有限制。根據 Legion 與猶他州人工智慧政策辦公室的協議，該聊天機器人只能續訂 15 種已由臨床醫生處方的、風險較低的維持性藥物。這包括常用於治療焦慮和抑鬱的氟西汀（Prozac）、舍曲林（Zoloft）、安非他酮（Wellbutrin）、米氮平（mirtazapine）和羥嗪（hydroxyzine）。患者也必須被視為病情穩定：過去一年內有近期劑量或藥物變動，或曾接受精神科住院治療者將被排除在外，且患者必須每續訂 10 次或每六個月（以先到者為準）與醫療提供者進行一次檢查。

該系統無法開立新處方，也無法處理需要更嚴格臨床監督的藥物，包括需要血液檢測監測的藥物。管制藥物也被禁止，這排除了許多注意力不足過動症（ADHD）的藥物。苯二氮平類藥物（用於焦慮）、抗精神病藥物（用於思覺失調症和雙相情感障礙等疾病）以及鋰鹽（被廣泛認為是雙相情感障礙的一線治療藥物）的排除，使得許多更複雜的精神科病例不在試點範圍內。

要使用該系統，患者必須選擇加入，驗證身份，並證明他們已有處方，例如提供藥物標籤或藥瓶的照片。接著，系統會詢問他們的症狀、藥物副作用和療效。系統會詢問有關自殺念頭、自殘、嚴重不良反應和懷孕的問題，以記錄警示信號。如果任何答案超出試點的低風險標準，案件應在發出任何續訂之前轉介給臨床醫生。患者和藥劑師也可以要求人工審核。

州政府官員在宣布試點計畫時表示：「透過安全地自動化維持性藥物的續訂流程，我們讓患者能夠更快、更經濟地獲得所需的照護。」他們表示，隨著時間的推移，該計畫可以讓醫療提供者「專注於更複雜、風險更高的患者需求」，並幫助解決導致 50 萬猶他州居民無法獲得精神健康照護的短缺問題。Legion 聯合創始人兼執行長 Yash Patel 更將該計畫描繪成一項全球首創的創舉，將極大地擴大醫療照護的可及性，並標誌著「一個遠超藥物續訂的開端」。

精神科醫師們的看法較為保留。猶他大學醫學院精神科醫師兼教授 Brent Kious 告訴 The Verge，他認為「基於 AI 的續訂系統的優勢可能被誇大了」。他懷疑該工具「不會增加最需要照護者的可及性」。目標患者在使用該服務之前，必須已經與其精神科醫師制定了治療計畫。

「如果能有更大的透明度、更多的科學依據和更嚴謹的測試，讓大家在使用前能有更好的了解，那就更好了。」

Kious 認為，自動化可能會加劇他所謂的精神科「過度治療的流行病」，導致一些患者服用藥物時間超出必要。貝斯以色列女執事醫療中心數位精神科主任、哈佛醫學院精神科教授 John Torous 提出了類似的擔憂，他指出，有些人長期服用精神科藥物能獲益，而另一些人則可能從減少或停止用藥中獲益。「這需要更積極的管理、變動和仔細的考慮。」他說。如果將續訂檢查外包給聊天機器人，這將變得更加困難。

更大的擔憂是，即使是精神科照護中最例行的部分，聊天機器人能否安全地自動化。Torous 表示，處方涉及的內容不僅僅是檢查藥物相互作用，他質疑任何現有的 AI 系統「能否理解個人藥物計畫背後的獨特背景和因素」。Kious 提出了類似的觀點：「原則上這可能是安全的，但一切都取決於細節。」這些擔憂因這些系統的新穎性——以及它們對外部人士仍然不透明——而加劇。「現在感覺有點像煉金術，」他說。「如果能有更大的透明度、更多的科學依據和更嚴謹的測試，讓大家在使用前能有更好的了解，那就更好了。」

還有更直接的安全疑慮。Kious 表示，聊天機器人可能會在篩查過程中遺漏某些情況：它可能不會問對的問題，患者可能無法識別副作用，或者他們可能提供不準確的答案。有些人可能只是為了加快照護而告訴系統他們想聽的。他強調，這並非聊天機器人獨有；精神科的許多方面都依賴於自我報告。但他補充說，人類臨床醫生通常還能獲得其他資訊，當他看診時，他不僅關注患者說了什麼，還關注他們沒說什麼以及他們的表現。雖然患者也可能誤導人類提供者，但 Kious 認為，聊天機器人系統可能讓患者更容易調整答案，直到獲得預期結果。

Torous 表示，還有更明顯的安全風險，這對於關注聊天機器人在現實世界表現的人來說並不陌生。Legion 的聊天機器人是猶他州第二個嘗試 AI 處方的實驗，加入了 Doctronic 公司自去年 12 月推出的、更廣泛的初級照護試點計畫。在啟動後幾週內，安全研究人員就成功地讓 Doctronic 系統傳播疫苗陰謀論、生成製造甲基安非他命的說明，並將患者的鴉片類藥物劑量增加三倍。州政府官員表示，Legion 的這個更具針對性的計畫旨在專門解決「該州的心理健康照護短缺問題」。

Legion 表示，該試點計畫在嚴格的監管下運行。除了其所謂的「保守的資格門檻」外，與猶他州的協議還要求 Legion 提供詳細的月度報告，並由人類醫生密切審查前 1,250 個請求，之後再對約 5% 至 10% 的請求進行定期抽樣審查。

Legion 聯合創始人兼總裁 Arthur MacWaters 告訴 The Verge，「任何遠距照護模式都存在風險，無論是 AI 輔助還是完全由人類主導」，並強調該公司的「工作流程不依賴單一的自我報告答案來解鎖治療」。他說，關鍵的安全措施包括試點計畫對藥物和患者資格的嚴格限制、內建的 AI 安全篩查、藥劑師的參與以及轉介給臨床醫生的能力。「我們認為這對於擴大猶他州數十萬生活在心理健康照護短缺地區的人們的可及性至關重要，同時也是 AI 在醫學領域的重要試驗場。」

MacWaters 未評論額外的用例、藥物或擴展到其他州的計畫，但表示該公司「對未來充滿期待」。他也未提供 Legion 擴張計畫的時間表，儘管 MacWaters 和 Legion 都公開表示了超越猶他州的更廣泛抱負：Legion 的續訂網站稱該服務將於「2026 年在全國範圍內推出」，MacWaters 也暗示「將非常非常快地擴展到每個州」。

對於我採訪的精神科醫師來說，這一切似乎都引發了一個相當基本的問題：Legion 到底在解決什麼問題？Kious 表示，對於已經建立治療關係的患者來說，通常甚至不需要預約就能獲得續訂，他解釋說，大多數精神科醫師可能「樂意免費且無需預約地續訂處方」，除非他們擔心患者或藥物帶有顯著風險。而這些正是 Legion 的 AI 被禁止處理的案例。

Torous 說：「我個人目前會避免使用它。」他補充說，如果你已經找到了一個適合你的治療計畫，最好堅持與該臨床醫生合作。