身為一個涉獵插畫和業餘攝影的創作者,我最害怕看到一個詞:「真的嗎?沒有 AI 的作品」。在生成式 AI 技術越來越擅長模仿人類作品的世界裡,當線上平台拒絕標示明顯是 AI 生成的內容時,人們自然會產生懷疑。
這讓我得出一個結論:也許我們應該開始為人類創作的文字、圖像、音訊和影片加上類似公平貿易標誌的通用標籤。機器絕對沒有動力標示牠們的作品,但那些面臨被取代風險的創作者卻非常需要。
幸運的是,我的想法並非孤單一人。
Instagram 負責人 Adam Mosseri 在十二月就曾提出類似的建議,表示隨著 AI 技術進步到能產出與專業創作者作品在視覺上難以區分的內容時,「標記真實媒體比標記虛假媒體更為實際」。
雖然沒有人能確切知道網路上有多少內容是 AI 生成的,但根據路透社研究所最近的一項調查,普遍的看法是新聞網站、社群媒體平台和搜尋引擎結果充斥著 AI 內容。
C2PA 內容憑證標準——Meta 的平台已經在使用——原本是為了驗證人類創作的作品。但到目前為止,儘管獲得了廣泛的產業支持,其實施卻完全無效。事實證明,許多製作和發布 AI 內容的人,為了點閱率、混亂和金錢,都有意隱藏其來源。
為了幫助人類創作者將他們的作品與 AI 生成器產出的內容區分開來,近年來出現了許多解決方案。然而,與 C2PA 一樣,它們在廣泛採用上也面臨著挑戰。
目前,有太多「無 AI」的標籤選項可供選擇。我總共計算了至少 12 種,它們都試圖以各種資格標準和驗證方法來解決同一個問題。有些是產業特定的,例如美國作家協會為書籍和其他書面作品提供的「人類創作認證」,無法廣泛應用於所有形式的創意內容。
像 Proudly Human 和 Not by AI 這樣的解決方案則試圖更廣泛,涵蓋已發表的文字、視覺藝術、攝影、音樂,但這些服務使用的驗證流程可能與 AI 標籤解決方案一樣可疑。有些,如 Made by Human,純粹基於信任運作,公開提供徽章和標籤供任何人下載並應用於其作品,而無需實際建立來源證明。其他,如 No-AI-Icon,則聲稱會視覺檢查作品並透過 AI 偵測服務進行掃描,但這些服務的可靠性眾所周知。
我檢查過的大多數服務都在走困難的路線:讓創作者手動向人類審核員展示他們的工作流程,例如草圖和書面草稿。這極其耗費人力,但在沒有任何技術捷徑的情況下,這是我們目前確定某事物是否由真人創作的最可靠方法。
另一個問題是,我們甚至無法就「人類創作」的定義達成一致。隨著 AI 現在融入了許多創意工具,並且受到創意教育者的鼓勵,我們該在哪裡劃定界線?
加州大學柏克萊分校人機協作 AI 中心資深科學家 Jonathan Stray 告訴 The Verge:「問題在於定義和驗證。在手動執行之前與 LLM 討論想法是否算使用 AI?創作者又該如何證明沒有使用 AI?」「像『有機』這樣的其他消費者標籤有法規和機構來強制執行。」
加州大學柏克萊分校資訊學院講師 Nina Beguš 表示,我們已經進入了混合內容時代,這與我們如何定義「原創」作品產生了衝突。
Beguš 告訴 The Verge:「如今,任何創意產出都可能以某種方式被 AI 觸及,而我們卻無法證明。」「作者身份正在朝新的方向瓦解,變得更具技術增強性,也更具集體性。我們需要重新審視那些僅為人類設計的創意標準。」
一個名為 Not by AI 的人類創作標籤競爭者提出的解決方案試圖考慮到這種模糊性。它提供各種徽章,創作者可以將其應用於網站、部落格、藝術品、電影、論文、書籍、播客等,前提是至少 90% 的作品由真人創作。但這種自願性的方法缺乏任何真實性驗證。
Proof I Did It 等其他解決方案則依賴區塊鏈技術,提供一個任何人都可以用來參考服務驗證過的創作者和作品的永久記錄。透過將驗證儲存在區塊鏈上,創作者可以獲得一張不可偽造的數位證書,證明作品是由人類創作,這比試圖使用軟體猜測媒體是否由 AI 生成要可靠得多。
加州大學雷迪管理學院執行董事 Thomas Beyer 表示,Web3 和區塊鏈技術可以提供一個強大的解決方案,將問題從「這看起來像 AI 嗎?」轉變為「這個帳戶能證明其人類歷史嗎?」
Beyer 告訴 The Verge:「透過向經過驗證的創作者發放『人類創作』代幣,市場創造了一個『高級』藝術品類別,其真實性在數學上得到保證。」其他專家,如 Beguš,也對在合成媒體氾濫的情況下,「人類和生物創造力」的潛在價值增加表達了類似的看法。
儘管 C2PA 存在缺陷,但像 C2PA 這樣的既有標準提供了 AI 標籤解決方案迫切需要的東西:統一性。Adobe、Microsoft 和 Google 等科技巨頭都已承諾遵守該標準,AI 提供商也在實施該標準以安撫全球監管機構。也就是說,當我權衡 AI 標籤工作與驗證真實人類創作內容的各種優缺點時,我認為後者更有可能成功。
許多專業創作者,即使不完全反對使用 AI 工具,也理所當然地希望將他們的作品與充斥產業並威脅他們生計的合成生成競爭對手區分開來。而且,雖然社群媒體上確實有很多 AI 傳教士樂於展示該技術的成就,但在涉及金錢和影響力時,人們對於披露其使用卻猶豫不決。
以色情演員創造永保年輕的數位分身,或 AI 網紅販賣不存在的幻想生活為例。披露他們是 AI 可能會打破人們認為他們正在獲得真實人類體驗的幻想。使用 AI 生成圖像銷售線上產品的詐騙者當然也不想被揭穿,而 Etsy 等託管他們的平台似乎也不太關心。同樣,任何使用生成式 AI 在社群媒體上製造分裂或惡作劇的人,只有在人們相信這是真實的時候才能成功。難怪 C2PA 的 AI 標籤未能普及。
我們知道,一些專注於 AI 的創作者會避免透明化,因為這已經在發生了。一個顯著的例子是羅曼史小說家 Coral Hart,她告訴《紐約時報》,去年她製作了 200 多本 AI 生成的小說,收入達六位數。她的任何一本書都沒有標示使用 AI 工具撰寫,但她擔心這會「損害她的業務」,因為該技術存在「強烈的污名」。
我們可以看到這種蔑視的體現,例如合成生成內容經常被描述為「垃圾」,即使這些作品本身在視覺、聽覺或技術上令人印象深刻。這就引出了這些人類創作或無 AI 標籤提供者將如何防止他們的標誌被那些從欺騙中獲利的人濫用的問題。Proudly Human 的執行長 Trevor Woods 承認,這可能無法避免。
Woods 告訴 The Verge:「與其他認證標誌和公司標誌一樣,我們無法阻止詐騙性地展示 Proudly Human 認證標誌。然而,我們讓消費者能夠輕鬆驗證它。」「如果我們識別出的不良行為者拒絕停止使用該標籤,我們將對他們採取法律行動。」
如果目標是達成一個普遍認可且強制執行的解決方案,那麼不僅創作者和線上平台,全球政府和監管機構也需要就某個標準達成一致。據我了解,這些對話目前非常少。
Woods 表示:「Proudly Human 偶爾會向政府和行業協會簡報,但並未參與關於統一人類來源認證的正式談判。」「AI 能力和 AI 生成內容的快速發展將超越政府和監管機構的反應。」
顯然,市場對讓消費者更容易識別人類創作作品有需求,因此創作者、監管機構和驗證機構需要選擇支持哪種方法。如果一個單一的標準能夠達到與公平貿易和有機等符號相同的水平——儘管它們本身也存在問題,但卻在全球範圍內被認為符合某種特定的精神——也許我們就能回到相信我們所見的時代。