加拿大卑詩省 Tumbler Ridge 校園大規模槍擊案的嫌犯 Jesse Van Rootselaar,在槍擊案發生前數月,就已引起 OpenAI 員工的警覺。去年六月,Jesse 與 ChatGPT 的對話中,包含對槍枝暴力的描述,觸發了該聊天機器人的自動審查系統。多名員工擔心其發言可能預示著現實世界的暴力,並鼓勵公司領導層聯繫當局,但最終 OpenAI 選擇不這麼做。

OpenAI 發言人 Kayla Wood 告訴 The Verge,雖然公司曾考慮將該帳戶通報給執法部門,但最終認為其不構成對他人「迫在眉睫且可信的傷害風險」。Wood 表示,對紀錄的審查並未顯示有積極或迫在眉睫的暴力規劃。公司封鎖了 Rootselaar 的帳戶,但似乎沒有採取任何進一步的預防措施。

Wood 說:「我們的思緒與所有受 Tumbler Ridge 悲劇影響的人同在。我們已主動聯繫加拿大皇家騎警,提供有關該個人及其使用 ChatGPT 的資訊,我們將繼續支持他們的調查。」

二月十日,加拿大發生自 2020 年以來最致命的大規模槍擊事件,造成九人死亡,二十七人受傷,其中包括 Rootselaar。Rootselaar 被發現在 Tumbler Ridge 中學的現場死亡, apparent 死因是自殺式槍擊,該校也是大部分殺戮事件發生的地點。

回顧來看,不通報執法部門的決定可能顯得不明智,但 Wood 表示,OpenAI 的目標是在隱私與安全之間取得平衡,並避免因過度廣泛地通報執法部門而造成意想不到的傷害。