HBO 的醫療劇一直在巧妙地鋪陳一個關於生成式 AI 為何如此誘人又令人擔憂的故事。

HBO 的醫療劇《急診室》每一集都呈現了某種程度的醫療創傷,幾乎讓這部醫院劇感覺像恐怖片。有些病患正處理著駭人的撕裂傷,而另一些則在對抗可能導致他們失去肢體的惡性血液感染,急診室工作的混亂狀況經常讓《急診室》的主要角色們心力交瘁。但儘管《急診室》中許多較為血腥的時刻可能令人警惕,更令人不安的是該劇關於醫院採用生成式人工智能的緩慢發展的副線劇情。

在其第二季中,《急診室》再次記錄了匹茲堡創傷醫療中心急診室單日 15 小時輪班期間發生的所有事件。第二季設定在獨立日——醫院最繁忙的日子之一——資深主治醫師 Michael “Robby” Robinavitch 醫生(Noah Wyle 飾)在他期待已久的休假前,正在進行最後一個班次。由於 Robby 醫生預計將離開三個月,醫院引進了 Baran Al-Hashimi 醫生(Sepideh Moafi 飾)來協助領導急診室。主治醫師之間存在一些個性上的摩擦,但 Robby 醫生大多尊重 Al-Hashimi 醫生處理工作的方式,除非她堅持認為醫院若採用一套 AI 驅動的轉錄軟體會更好。

儘管本季開頭相對平靜,但隨著醫院湧入需要醫療照護的人們,這一天對《急診室》所有角色來說變得越來越具壓力。對於二年級住院醫師 Trinity Santos 醫生(Isa Briones 飾)來說,保持工作進度尤其艱鉅,因為她根本沒有足夠的時間看診所有病患,並仔細記錄他們在病歷中的所有症狀。

Al-Hashimi 醫生知道 AI 生成的轉錄稿並不完美,但她認為 Santos 醫生是個完美的例子,可以透過這項技術更快地完成病歷記錄。該虛構軟體確實準確轉錄了 Santos 醫生大部分的口述內容,這點值得稱讚。但當一位外科醫生怒氣沖沖地衝進急診室,因為收到的病歷有明顯的錯誤,可能導致病患接受錯誤的照護時,兩位醫生都驚呆了。

《急診室》並沒有直接走向一個「生成式 AI 是壞且危險的」的、從新聞頭條擷取的劇情,而是花了時間去探討醫護人員為何可能想使用這類技術,以及以懷疑的態度看待它的重要性。Al-Hashimi 醫生鼓勵她的醫學學生和住院醫師使用轉錄軟體,但她也勤勉地警告他們,必須仔細檢查任何由 AI 完成的工作,因為病患的治療方式是他們的責任,而不是工具的責任。Al-Hashimi 醫生的每一次警告,都像是《急診室》在承認現實世界中,病患因涉及 AI 工具的手術失誤而起訴醫院的案例,以及發現大型語言模型在準確預測病患健康結果方面不可靠的研究。 《急診室》也利用 Al-Hashimi 醫生的 AI 宣傳,來強調在專業環境中採用這項技術實際上可能創造更多繁瑣的工作(例如:仔細檢查轉錄稿),同時加劇人們的倦怠感。起初,Al-Hashimi 醫生似乎是本季的主要反派角色,但《急診室》的編劇團隊非常聰明地選擇專注於一個更大的想法。

本季的《急診室》一再強調,當技術並未真正設計來解決手邊的問題時,它只能在有限的程度上解決問題。 AI 驅動的轉錄可以幫助 Santos 醫生更快地完成病歷(儘管會夾雜一些錯誤)。但當急診室人手不足,或者當醫生和護士在另一家醫院封鎖後突然被要求接收更多病患時,該軟體就無能為力了。

Santos 醫生和 Dana Evans 護士(Katherine LaNasa 飾)等角色發現自己被大量要求苛刻的病患淹沒,這些病患在擁擠的候診室裡等待了數小時,這似乎直接反映了全國各地醫院面臨的現實挑戰。為了真正掌握他們的工作量,《急診室》的急診室工作人員確實需要更多人手和更多空間來為病患提供適當的照護。但隨著國家面臨護士短缺,以及虛構醫院長期資金不足,管理層希望透過 AI 提高生產力是可以理解的。

《急診室》很容易(而且在本季結束前仍有可能)講述一個關於使用生成式 AI 造成的錯誤,導致手術室出現失誤,讓醫護人員面臨訴訟的故事。但該劇正確地強調了一個現實:有些關鍵的工作場所問題,無法僅僅透過引入新技術來解決。