紐西蘭衛生局(Health NZ)表示,已發現有員工使用 ChatGPT 和 Gemini 等免費人工智慧工具撰寫臨床筆記,並警告此舉可能導致正式的紀律處分。
RNZ 取得的一份備忘錄顯示,本週由一位資深經理發送給 Rotorua Lakes 區所有心理健康與成癮服務的員工,提醒他們不得在工作中使 ChatGPT、Claude 或 Gemini 等工具。
備忘錄中提到:「我注意到出現了使用人工智慧(AI)起草工具來準備臨床筆記的案例。」
「由於數據安全、隱私和問責方面的擔憂,嚴格禁止將免費 AI 工具(例如 ChatGPT、Claude、Gemini)用於臨床目的。即使您匿名化病患資訊,也不允許使用 AI 工具起草筆記,然後再轉錄成手寫或打字筆記。」
備忘錄指出,這樣做可能會導致正式的紀律處分。
根據紐西蘭衛生局全區的 AI 政策,任何 AI 工具都必須向紐西蘭衛生局國家人工智慧與演算法專家諮詢小組(NAIAEAG)註冊,這包括目前正在急診室推廣的 AI 筆錄工具 Heidi。
紐西蘭衛生局數位創新與 AI 主管 Sonny Taite 表示,免費 AI 工具對數據安全、隱私和問責構成風險,「任何可能的豁免都將逐案評估」。
「與醫療保健中的任何新流程一樣,我們正與臨床醫生合作,探索新的工作方式,這是一個持續的過程。」
紐西蘭衛生局並未回答關於有多少員工使用未經批准的 AI 軟體,或是否有人因此受到處分的問題。
代表許多衛生與成癮服務工作者的公共服務協會(Public Service Association)全國秘書 Fleur Fitzsimons 表示,臨床工作人員之所以轉向 AI 工具,是因為他們承受著「巨大的壓力」。
她認為,一份以威脅正式紀律處分開頭的備忘錄是錯誤的做法。
「這是一個警告信號,會讓員工害怕提問或尋求幫助。」
她表示,紐西蘭衛生局應投資於適當的培訓和核准的工具。
「別忘了,紐西蘭衛生局一直在削減負責數位系統和 IT 支援的團隊。如果員工正在即興使用免費工具,紐西蘭衛生局需要檢討為何會發生這種情況,而不是僅僅威脅員工違反行為準則。」