誰是 Anthropic 的稽核員——我們為何該在意？
AI 領域的兩大巨頭 OpenAI 和 Anthropic，正因其安全措施受到嚴格審查。
OpenAI 的 CEO 山姆·阿特曼（Sam Altman）在 2023 年 5 月表示，該公司將聘請一家「獨立的第三方」來稽核其安全措施，以回應外界對其 AI 發展速度的擔憂。他表示，這家稽核公司將由 OpenAI 的董事會挑選，並將向董事會匯報。
然而，在 2023 年 7 月，OpenAI 宣布其安全稽核將由一家名為「S-RM」的英國公司進行。S-RM 是一家專門從事網路安全和風險管理的諮詢公司，曾為英國政府和多家大型企業提供服務。
此舉引發了對 OpenAI 安全措施有效性的質疑，因為 S-RM 並非一家專門從事 AI 安全領域的公司。一些專家認為，OpenAI 選擇 S-RM 是為了應付監管機構的要求，而非真正重視 AI 安全。
與此同時，另一家 AI 巨頭 Anthropic 也面臨著類似的壓力。Anthropic 由前 OpenAI 員工創立，其目標是開發「安全且可控」的 AI。該公司在 2023 年 5 月宣布，將聘請一家外部稽核公司來評估其 AI 安全性。
然而，Anthropic 並未透露稽核公司的名稱，僅表示該公司將由 Anthropic 的董事會挑選，並將向董事會匯報。此舉引發了對 Anthropic 透明度與責任歸屬的擔憂。
一些專家認為，Anthropic 選擇不公開稽核公司的名稱，可能是為了避免像 OpenAI 那樣受到外界的質疑。然而，這種做法也可能導致外界對其 AI 安全性產生更大的懷疑。
AI 的發展速度越來越快，其潛在風險也日益受到關注。在這種情況下，AI 公司的透明度與責任歸屬變得尤為重要。外部稽核不僅是應對監管壓力的手段，更是建立公眾信任的關鍵。
我們為何該在意 Anthropic 的稽核員？因為這關係到我們對 AI 未來的信心。如果連開發 AI 的公司本身都無法確保其 AI 的安全性，那麼我們又該如何信任這些 AI 能夠為我們帶來福祉，而非潛在的威脅？