Anthropic 近期決定為 Claude 的輸出加上浮水印，在聊天機器人的編輯文本中嵌入不可見的程式碼，標記其為 AI 生成內容。
Anthropic 推出這項新政策是為了滿足《歐盟 AI 法案》的透明度要求，該法案現規定科技公司必須以電腦系統可識別的方式標記 AI 生成或編輯的內容。然而，歐洲監管機構或許高興，但部分 AI 用戶顯然並不滿意。
在 Reddit 上不難找到不滿情緒滋生的證據，儘管該網站上的其他發文者並不認同。我遇到的其中一篇較為誇張的貼文來自一位名為 visionode 的用戶，其帳戶明顯僅有三週歷史。根據 visionode 的說法，新的浮水印系統是一項壓迫性的陰謀，旨在迫害全球無辜的聊天機器人使用者。
Visionode 的基本論點似乎是，雖然精明的 Claude 用戶或許能透過改寫或使用其他 AI 服務清理其輸出，從而隱藏使用 AI 的證據，但 Claude 的普通用戶將會被抓包。
「誰會被抓包？你。那個用 Claude 重組段落的學生。那個請 AI 總結兩百頁逐字稿的記者。那個因為寫作瓶頸而尋求同義字的作家。這些人會帶著額頭上的數位紋身走出這個過程。」
我無意削弱 visionode 的憤怒，但這些並非最佳範例。一個請 AI 總結兩百頁逐字稿的記者，不會因為該摘要附帶浮水印而感到困擾，除非他們將摘要逐字複製貼到文章中——這顯然是不道德的，也不應該發生。
一個請 Claude 「重組段落」後將輸出複製貼到論文中的學生，同樣是不道德的。
其他 Reddit 用戶也對該發文者的憤怒並不特別支持。
「看看這個傢伙，」一位用戶僅評論道。
另一位則請發文者「深呼吸」。
Visionode 並非唯一抱怨的人。另一位不滿的用戶稱這些浮水印「不道德」且「令人作嘔」，並認為他們在使用 Claude 時已經完成了大部分工作。在他們看來，聊天機器人僅僅是一個「工具」，促進了他們艱辛的勞動。
「我提供了指示、背景、決策和無數次的修改，Claude 只是工具。如果 Claude 開始為它生成的程式碼或任何其他東西加上浮水印，它到底聲稱什麼功勞？」該用戶質問。
同樣地，其他用戶也加入了對批評者的圍攻。
「它並沒有聲稱功勞，」一位用戶反駁道。「這是關於能夠偵測 AI 生成的輸出，因為 AI 生成的輸出在各種情況下都可能帶來風險。」
「這傢伙甚至無法在不使用 Claude 的情況下抱怨 Claude，」另一位用戶揶揄道。
一些批評者避開了受害者敘事，提出了對 Anthropic 新政策稍微更細緻的論點。
例如，一位用戶抱怨浮水印一個本身是透過吸取他人作品而生成的編輯產品，存在普遍的虛偽。「我認為這是一個非常險惡的方向，」該用戶說。「我不用 Claude 來寫任何東西，但一個會給你的作品加上浮水印的 AI，考慮到許多前沿模型是如何獲得其訓練數據的，這真是諷刺得令人害怕。」
總體而言，用戶傾向於支持浮水印系統，認為這是追蹤演算法生成內容的合理方式。「沒有任何好理由說明這不是個好主意，」另一串討論中的一位用戶說。「你之所以不想要這個，唯一的原因是想欺騙別人。」