目前我們用於偵測和標記網路深度偽造（deepfake）的最佳方法即將面臨壓力測試。印度週二宣布了新的規定，要求社群媒體平台必須更快地移除非法的 AI 生成材料，並確保所有合成內容都得到清晰的標記。科技公司多年來一直表示希望自行達成此目標，而現在距離他們在法律上被要求實施此規定只剩下幾天的時間。這些規定將於 2 月 20 日生效。
印度擁有 10 億網路用戶，且用戶年輕化，使其成為社群平台最重要的成長市場之一。因此，任何在該國的義務都可能影響全球的深度偽造內容管理工作——無論是將偵測技術推進到真正有效的程度，還是迫使科技公司承認需要新的解決方案。
根據印度修訂後的《資訊科技規則》，數位平台將被要求部署「合理且適當的技術措施」，以防止用戶製作或分享非法的合成音訊和視覺內容，也就是深度偽造。任何未被封鎖的生成式 AI 內容，都必須嵌入「永久的元數據或其他適當的技術來源驗證機制」。針對社群媒體平台也有具體的要求，例如要求用戶披露 AI 生成或編輯過的材料，部署驗證這些披露的工具，並以一種能讓用戶立即識別其為合成內容的方式顯著標記 AI 內容，例如為 AI 音訊添加語音披露。
這說起來容易做起來難，因為目前 AI 偵測和標記系統的發展嚴重不足。C2PA（也稱為內容憑證）是我們目前擁有的最佳系統之一，它透過在圖像、影片和音訊的創建或編輯點附加詳細的元數據，來隱形地描述其製作或修改方式。
但問題是：Meta、Google、Microsoft 以及許多其他科技巨頭已經在使用 C2PA，而它顯然沒有奏效。像 Facebook、Instagram、YouTube 和 LinkedIn 這樣的平台會為 C2PA 系統標記的內容添加標籤，但這些標籤很難被注意到，而且一些應該帶有該元數據的合成內容卻悄悄地溜過了。社群媒體平台無法標記任何一開始就不包含來源驗證元數據的內容，例如由開源 AI 模型產生的材料或所謂的「nudify apps」（這類應用程式拒絕採用自願性的 C2PA 標準）。
根據路透社分享的 DataReportal 研究，印度擁有超過 5 億社群媒體用戶。細分來看，有 5 億 YouTube 用戶、4.81 億 Instagram 用戶、4.03 億 Facebook 用戶，以及 2.13 億 Snapchat 用戶。據估計，印度也是 X 的第三大市場。
互通性是 C2PA 的最大問題之一，雖然印度的新規定可能會鼓勵其採用，但 C2PA 的元數據遠非永久。它非常容易被移除，以至於一些線上平台在檔案上傳過程中可能會無意中剝離它。新規定要求平台不得允許修改、隱藏或移除元數據或標籤，但要弄清楚如何遵守規定，時間非常緊迫。像 X 這樣尚未實施任何 AI 標記系統的社群媒體平台，現在只剩下九天的時間來完成。
Meta、Google 和 X 對我們的評論請求未予回應。作為 C2PA 標準的主要推動者，Adobe 也未予回應。
印度新規定還增加了壓力，要求社群媒體公司在發現或收到非法材料的報告後三小時內將其移除，取代了現有的 36 小時寬限期。這也適用於深度偽造和其他有害的 AI 內容。
網路自由基金會（IFF）警告說，這些強制性的變更可能會迫使平台變成「快速反應的審查員」。「這些不可能的時間限制消除了任何有意義的人工審查，迫使平台走向自動化過度移除，」IFF 在一份聲明中表示。
鑑於修正案規定了應「在技術可行範圍內」實施的來源驗證機制，負責印度這項命令的官員很可能意識到我們目前的 AI 偵測和標記技術尚未準備就緒。支持 C2PA 的組織長期以來一直堅稱，如果足夠多的人使用該系統，它就會奏效，所以現在是證明這一點的機會。