Condé Nast 旗下的 Ars Technica 已證實,開除了資深 AI 記者 Benj Edwards,原因是他參與了一篇報導,該報導包含由 AI 生成的捏造引述,並因此引發爭議後被撤回。
本月稍早,Ars Technica 撤回了一篇報導,因為該報導被發現包含偽造、卻歸屬於真實人物的引述。這篇報導原定於 2 月 13 日發布,內容是關於一個病毒式傳播的事件,其中一個 AI 代理程式似乎發表了一篇針對工程師 Scott Shambaugh 的負面評論。在 Shambaugh 指出他從未說過這些引述後,Ars Technica 的總編輯 Ken Fisher 在編輯聲明中道歉,並證實該報導包含「由 AI 工具生成的捏造引述,並歸屬於未曾說過這些話的來源」,他將此錯誤形容為「嚴重違反我們的標準」。他補充說,經過進一步審查,該錯誤似乎是「孤立事件」。(404 Media 最早報導了撤回的消息。)
在 Fisher 的編輯聲明發布後不久,身為該報導兩位署名作者之一的 Edwards,在 Bluesky 上發文表示為包含捏造引述一事「負全責」。
Edwards 在貼文中表示,當時他生病了,並且「在發燒且睡眠嚴重不足的情況下,在家中工作時」,他「無意中犯了一個嚴重的報導錯誤」,因為他試圖使用一個「實驗性的 Claude Code-based AI 工具」來協助他「提取相關的原始資料」。他說該工具並非用於生成文章,而是設計來「協助列出結構化的參考資料」,以便放入大綱。Edwards 表示,當該工具無法正常運作時,他決定嘗試使用 ChatGPT 來協助他理解原因。
「我應該請病假,因為在那次互動過程中,我不小心得到了 Shambaugh 言論的改寫版本,而不是他的真實話語。」Edwards 繼續說道。他強調「文章的內容是由我們人類撰寫的,這次事件是孤立的,並不代表 Ars Technica 的編輯標準。我們的任何文章都不是由 AI 生成的,這違反公司政策,我們也一直遵守這項規定。」
Edwards 還強調,他的同事 Kyle Orland,該網站的資深遊戲編輯,也是這篇被撤回報導的共同作者,對「此錯誤沒有任何責任」。
Edwards 在 2 月 15 日的 Bluesky 貼文中表示:「我無法忽視一個 AI 記者被 AI 幻覺所困的諷刺意味。我非常重視我工作中的準確性,這對我來說是一個痛苦的失敗。」
這起爭議在 Ars Technica 的讀者群中引發了強烈的反彈和猜測,許多人在網站上冗長的評論串中表達了深深的沮喪和失望。2 月 27 日,Ars Technica 的創意總監 Aurich Lawson 在關閉評論串時表示,「Ars Technica 已完成對此事的審查」,並且「已採取適當的內部措施」。
Lawson 寫道:「在接下來的幾週內,我們將發布一份面向讀者的指南,解釋我們如何在工作中運用 AI,以及如何不運用 AI。」「我們不評論人事決定。」
根據網頁的存檔版本,截至 2 月 28 日,Edwards 在 Ars Technica 上的個人簡介已被改為過去式。現在的描述是 Edwards「曾是 Ars Technica 的記者,負責報導人工智慧和科技歷史」。
Futurism 聯繫了 Ars Technica、Condé Nast 和 Edwards,詢問記者的僱傭狀況。該出版物及其所有者均未回覆。Edwards 表示他目前無法評論。
Ars Technica 的撤稿並非新聞界首次因 AI 引發爭議,也不是第一次激怒出版物的讀者。這也發生在許多媒體主管正推動員工尋找 AI 的應用之際——正如大多數行業的執行長一樣——儘管圍繞著能維護編輯道德的技術使用仍缺乏明確的指導方針。
這是媒體和科技史上一個充滿爆炸性、令人迷失方向的時刻,記者和他們的受眾都在劃定界線。而 Ars Technica 的後果,凸顯了我們一再看到的現象,即使是那些對 AI 及其缺點非常熟悉的人,最終也會在關鍵時刻依賴它——並在此過程中,成為比生成式 AI 更古老的事物:人為錯誤的受害者。