一位軟體開發者聲稱已逆向工程 Google DeepMind 的 SynthID 系統,展示了 AI 浮水印如何從生成圖像中移除,或手動插入其他作品。然而,根據 Google 的說法,這並不準確。
該開發者以 Aloshdenny 的用戶名,在其 GitHub 上開源了相關工作,並記錄了其過程,聲稱僅需 200 張 Gemini 生成的圖像、訊號處理和「太多閒暇時間」即可完成。據說還需要一點大麻的幫助。
Aloshdenny 在 Medium 上表示:「沒有神經網路。沒有專有存取權。結果發現,如果你失業且有足夠多的『純黑』AI 生成圖像,每個非零像素實際上就是浮水印在看著你。」
SynthID 是一個近乎不可見的浮水印系統,用於標記 Google AI 工具生成的內容,將其嵌入圖像創建時的像素中。它的設計目的是在不損害圖像品質的情況下難以移除,並廣泛用於 Google 提供的各種 AI 產品中——從 Nano Banana 和 Veo 3 等模型輸出的內容,甚至 YouTube 的 AI 生成創作者克隆,都帶有 SynthID 浮水印。
Aloshdenny 表示,他發現該系統是「真正優秀的工程」,並且在測試中仍無法完全移除 SynthID,而是依靠混淆試圖讀取浮水印圖像的 SynthID 解碼器。
破解 Google 浮水印底層機制的過程,對於非開發者來說在技術上相當複雜。如果你有興趣,可以在 Aloshdenny 的 Medium 頁面上閱讀完整的詳細說明(據說是在 Aloshdenny 「嗨」的時候寫的),但這裡有一個簡化的解釋:
Aloshdenny 說:「我能做到的最好就是混淆解碼器到它放棄——而不是實際刪除它——這說明了它的設計有多好。它並不完美。但它也不是試圖做到無懈可擊。它試圖將濫用的成本提高到大多數人都不會去做的程度。」
我沒有嘗試 Aloshdenny 的逆向工程 Google SynthID 浮水印系統的專案,所以我無法保證其有效性。話雖如此,目前看來 SynthID 並未被逆向工程,至少沒有達到腳本小子可以下載工具來移除(或添加)Google 浮水印以欺騙 AI 檢測系統的程度。Google 也不認為它能達到 Aloshdenny 的聲稱。
Google 發言人 Myriam Khan 告訴 The Verge:「說這個工具可以系統性地移除 SynthID 浮水印是不正確的。SynthID 是用於 AI 生成內容的強健、有效的浮水印工具。」