上週，Meta 員工因一個內部 AI 助理解決技術問題時提供了不準確的技術建議，導致公司和用戶資料在將近兩個小時內被未經授權存取。Meta 發言人 Tracy Clayton 在聲明中表示，在此事件中「用戶資料並未被濫用」。
據了解，一名 Meta 工程師正在使用一個內部 AI 代理程式，Clayton 形容其「性質類似於 OpenClaw，存在於安全的開發環境中」，以分析另一名員工在內部公司論壇上提出的技術問題。然而，該代理程式在分析問題後，未經事先批准，獨立地公開回覆了該問題。該回覆原本只應顯示給提出問題的員工，而非公開發布。
隨後，一名員工根據該 AI 的建議採取了行動，該建議「提供了不準確的資訊」，進而導致了「SEV1」級別的安全事件，這是 Meta 使用的第二高嚴重性等級。該事件暫時允許員工存取他們未獲授權查看的敏感資料，但問題現已解決。
Clayton 指出，涉事的 AI 代理程式除了發布不準確的技術建議外，本身並未採取任何技術行動，這也是人類可能做出的行為。然而，人類可能會在分享資訊前進行進一步的測試並做出更全面的判斷——目前尚不清楚最初提示該回應的員工是否計劃公開發布該資訊。
Clayton 向 The Verge 評論道：「與該系統互動的員工完全知道他們正在與一個自動化機器人溝通。這由頁腳的免責聲明以及員工在該串討論中的回覆所表明。」「該代理程式除了提供問題的回應外，並未採取任何行動。如果該工程師知道得更多，或進行了其他檢查，這本可以避免。」
上個月，開源平台 OpenClaw 的一個 AI 代理程式在 Meta 發生了更直接的失控事件，當時一名員工要求它整理收件箱中的電子郵件，卻未經授權就刪除了郵件。像 OpenClaw 這樣的代理程式的整體理念是它們可以自行採取行動，但與任何其他 AI 模型一樣，它們並不總是能正確地解釋提示和指令，或給出準確的回應，這是 Meta 員工現在已經發現兩次的現實。