Coachella 音樂節於週五正式開幕,和往常一樣,這裡是線上網紅展示他們難忘節慶體驗的最佳場所。快速瀏覽我的社群媒體動態,已經看到許多穿著華麗、姿態完美的吸睛人物,與名人合照,照片經過精心擺拍。
但這些內容創作者中,只有部分是真實出席的。許多根本不存在於現實世界,而是透過 AI 工具生成的虛擬形象。
假裝參加 Coachella 並非新鮮事,近年來連真實網紅也會這麼做,但生成式 AI 技術的進步,讓辨識這些合成創作者變得更加困難。在眾多真實參加者中,這些虛擬網紅有的甚至不加掩飾,會在個人簡介或貼文中標示自己是「數位創作者」,這個詞彙模糊了他們究竟是 AI 還是純線上人物。其他則完全沒有任何提示,只能靠肉眼辨識。
Ammarathegoat 很可能就是這類 AI 網紅之一,試圖向超過 17 萬名 Instagram 粉絲販售虛假的現實感。該帳號未在簡介中透露 AI 身分,貼出的照片顯示一個 AI 生成的虛擬形象與卡戴珊/詹娜家族成員以及真實人類內容創作者如 Bretman Rock 和 James Charles 合照,背景是 Coachella 標誌性建築。雖然 Meta 或創作者未提供任何 AI 資訊,但照片和影片中的視覺扭曲(包括近期和較早前的例子)強烈暗示 Ammarathegoat 是 AI 生成的。
另一個與卡戴珊/詹娜家族合照的 Instagram 帳號 Grannyspills,根據創作者簡介是使用 Higgsfield AI 製作的虛擬形象,擁有超過 200 萬粉絲。和 Ammarathegoat 類似,Grannyspills 發佈的影片動作不自然,照片過於完美,且虛擬形象的身體比例不一致。該帳號也標示為「數位創作者」,但貼文中除了 Instagram 手機版三點選單下的「AI 資訊」標籤外,沒有明確的 AI 揭露,桌面版甚至完全看不到任何 AI 標示。
我觀察到一個趨勢,女性呈現的 AI 虛擬形象通常避免透露她們並非真實存在的事實。值得注意的例外是 Lil Miquela,迄今最大的 AI 網紅之一,曾在 2019 年 Coachella 採訪 J Balvin,今年也再次「現身」該音樂節。另一對 Instagram 帳號 Miazelu 和 Anazelu,分別擁有 25.2 萬和 31.2 萬粉絲,貼出幾乎無法與真實參加者區分的合照,背景自然且可信。兩者在簡介中自稱 AI 網紅,但在所有貼文中都未揭露這一點。
這些帳號及其他粉絲數較少的帳號假裝參加 Coachella 很容易理解。加州的這場音樂節被稱為「網紅奧運」,內容創作者們競相爭取品牌贊助、經紀代理或擴大遠端觀眾群。貼出與知名人物合照,可能是為了增加觸及率,或利用這些名人的粉絲基礎。
這種潛在的觀眾提升同樣適用於在其他平台提供更具性暗示服務的社群帳號。一個連結到 OnlyFans 頁面的 Instagram 帳號,貼出兩張與 Coachella 主秀賈斯汀·比伯的合照,據稱是在音樂節期間拍攝。我無法驗證這是否真實人物,因為該帳號沒有任何 AI 揭露,但這些照片可能會出現在搜尋比伯在活動中動態的 Instagram 用戶面前。
許多留言者也無法分辨真假。「海莉知道這件事嗎?真嚇人!」一位留言者寫道。帳號回覆:「不知道!他們當時沒在一起。」這或許是「死網路理論」的又一佐證,或是人們比我想像中更容易輕信。
今年,其他 AI 生成的「Fanvue 大使」如 Fit_aitana 也加入這股潮流,向近 40 萬 Instagram 粉絲展示令人信服的節慶假象。Fit_aitana 自稱是「虛擬靈魂」而非 AI 虛擬形象,但仍是虛構,且在貼文中很少揭露這一點。簡單查看 X 平台,Ammarathegoat 也有 OnlyFans 帳號,該平台雖未明確禁止 AI 生成內容,但要求創作者驗證身份。該帳號同樣沒有任何 AI 揭露。
Instagram 用戶似乎未察覺或不在意。「看起來你玩得超開心❤️」一位留言者在 Fit_aitana 的 Coachella 貼文下寫道。「羨慕=我。」
即使沒有外部服務連結,AI 生成的女性胸部也在 Instagram 的 Coachella 標籤下大量出現,且沒有任何揭露,有時胸部數量過多反而成為破綻。
我發現男性呈現的 AI 網紅較傾向透露自己非真人,原因是他們想販售其他東西:教你如何製作自己的 AI 模仿者。他們推銷提示指南和 AI 內容系統,讓用戶購買後可創造假網紅或使用預製虛擬形象,搭配華麗的 Coachella 視覺效果。
如今,任何流行文化活動的網紅報導都可能帶有表演性質,因為有機會變現,但虛假網紅的參與且無明確揭露,感覺像是在利用無法親臨 Coachella 的人們。現在我們甚至無法安心遠距欣賞活動,因為不斷質疑所見是否真實。隨著部分合成創作者達到網路微名人地位,這股趨勢似乎將持續。
據報導,品牌已花費「高達六位數美元」派遣真人創作者前往 Coachella,我猜投資虛假現實在各方面可能更便宜。如果品牌願意將贊助曝光放在 AI 生成的臉孔上,他們或許不在意是否向消費者揭露這種虛假。或許消費者根本不會注意,甚至不在乎。