週四上午,我參加了一個由四位三星智慧型手機高管組成的問答小組。直到 2025 年,三星一直是全球最大的智慧型手機製造商,因此也理所當然地成為最大的相機製造商。在蘋果之後,它目前仍是第二大製造商。

三星首先遞給我麥克風。我問道:

我們看到社會上存在一種分歧,一部分人希望 AI 能為他們的照片和影片做些令人印象深刻的事情,而另一部分人則不希望 AI 干涉照片和影片,因為這正在侵蝕我們相信所見為真的能力,破壞了攝影證據的概念。

像 C2PA 這樣的元數據工具完全未能阻止這股潮流。三星是否有任何新的、不同的想法來防止 AI 圖像接管世界?

三星的四位高管沒有任何新的、不同的想法可以分享。

我必須讚揚行動通訊事業部的營運長兼研發主管 Won-Joon Choi,他沒有迴避這個問題。他告訴在場人士,現實的侵蝕是一個問題,他希望解決它。

但他以及其他三星高管暗示,公司需要在人們對照片真實性的期望與讓智慧型手機買家「更有創意」之間取得平衡。他們將責任推給整個產業,認為這是一個需要更廣泛對話的產業級問題,並建議三星透過在 AI 生成圖像上添加浮水印,已經部分解決了這個問題。但這個浮水印很容易被移除。

稍後有機會時,一位高管暗示,未來我們對 AI 生成內容的感受可能會變得更加正面。

「我們認識到這個問題,因為現在有很多內容是由 AI 生成的,」Choi 開始說道。「一方面,人們希望更有創意,所以我們認為我們必須提供一個解決方案,讓人們能夠更有創意,」他說。「另一方面,現今要區分真實照片和影片與偽造的非常困難。我認為這是一個問題,我們認識到這一點,我認為這是我們必須在產業層級解決的問題。」

「你可能會認為 C2PA 是一種失敗,但它仍然足以提供一種機制,讓那些想驗證這些圖片和影片是由 AI 製作的人可以使用。我認為我們必須提供一個機制,讓人們可以使用它。我認為這是整個產業正在持續努力解決這個問題。」他補充道。

「我認為,如果我們共同努力解決這個問題,我相信我們應該能夠做到,」他總結道。

正如我的同事 Jess Weatherbed 本週稍早所寫的,我們開始擔心這種「產業將共同解決」的說法,以及 C2PA 本身,正在取代實際有意義的行動。

也許是為了回應我們對三星 AI 濫用情況的報導,三星美國高管 Dave Das 也插話說,公司仍在學習在創作自己的廣告時,可以使用多少 AI。他承認公司「剛剛開始在我們的創意內容中使用一些 AI,而回饋非常明確。」

「我們正在試圖辨別使用它的合適地方,以及如何非常清楚地說明我們何時使用 AI 生成的內容與自然生成的內容,」Das 說。

但 Das 仍然將其視為業務優先事項之間的權衡,而不是社會責任。「這歸根結底是給予創作者選擇權,」他說,並暗示三星的職責是找到「正確的平衡點」。

稍晚,KTLA-TV 的科技記者 Rich DeMuro 透過一個非常不同的問題,試探了三星的立場。他問三星是否可能讓客戶更容易移除其 AI 浮水印,從 AI 生成的照片中移除。

「如果我用你們所有有趣的工具製作聖誕卡,我真的希望它上面寫著『AI 生成內容』嗎?」DeMuro 問道。

三星美國行動產品管理資深副總裁 Drew Blackard 回答了這個問題。他總結說:「如果我們覺得消費者真的想要移除浮水印的能力,同時也有其他方法可以解決關於真實性的第一個問題,我們將同時做這兩件事,並提供人們所期望的最好體驗。」

「至少目前,消費者對真實性的擔憂足夠多,這就是我們解決的首要問題,就浮水印而言,無論是在元數據中還是在照片本身。並非所有服務都這樣做,」他說。

Blackard 還建議,我們有一天回顧時,可能會發現 AI 生成的內容並不是什麼大不了的事,我們的看法可能會隨著時間而改變,就像人們對用戶生成內容的看法最初改變一樣。他說,當時人們擔心的是「現在流入系統的內容量」,以及它不是他們習慣的專業影片產品。

我想知道三星和同行智慧型手機製造商是否考慮過相反的情況:在人們因為廉價生產的 AI 垃圾而失業,以及在沒有可靠記錄證據的情況下,謊言、欺騙和盜竊變得更加容易之後,對 AI 生成圖像的看法可能會變得更加不利。

我想知道他們是否考慮過在「產業層級」解決這個問題,然後才潰堤,以及看法是否會因為三星幫助製造了隨之而來的洪水而轉向反對三星。