佛州女子因涉嫌透過 AI 聊天機器人發出威脅遭逮捕

佛羅里達州一名女子因涉嫌透過 Anthropic 的 Claude AI 聊天機器人對李郡治安官辦公室發出暴力威脅而遭逮捕。AI 聊天機器人首先偵測到該對話，隨後由人工審核人員發現並通報警方，此事件凸顯了 AI 在偵測潛在威脅方面的應用，但也引發了對 AI 互動安全性的擔憂。

根據 Gulf Coast News 網路的報導，Anthropic 的 Claude AI 聊天機器人標記了一段與 30 歲女子 Carli Michelle Heller 的對話，因為她涉嫌對李郡治安官辦公室發出暴力威脅。報導指出，隨後由人工審核人員查看了這些訊息並通報給警方。