我不想讀你沒寫的東西

很少寫原創文章的人，突然間開始產出大量的設計提案、商業計畫、文件、簡報、票券、程式碼合併請求（pull request）、部落格文章和會議摘要，這些全都是由 AI 生成的。這些內容都無法閱讀。AI 正在幫助我寫得更好、更快，但我已經受夠了閱讀幾乎所有由 AI 寫的東西。在這篇文章中，我想表達我的沮喪，並描述我如何從 AI 寫作中找到價值。

我看到一種模式是，人們利用 AI 來建構新事物，然後再利用 AI 來回顧總結他們已經建構好的內容，並將其寫成設計文件。閱讀這樣的文件的過程不僅困難，簡直是折磨。設計文件不再是為了建立共識、讓大家跟上你的腳步，並透過緩慢、深思熟慮來完善想法的提案——它變成了一台機器所做的總結，細節詳盡到令人筋疲力盡，卻缺乏脈絡或觀點。它無法閱讀。不人道。這些文件的作者，當人們對其內容不感興趣時，會感到不耐煩，而人們很難不這樣，因為他們建構的東西已經在運作了。

我也看到越來越多的程式碼合併請求摘要，明顯是機器為機器所寫。它們細節豐富：這個被改成了那個，這些東西被拆分了，那些東西被合併了，這個保持不變，為這個增加了測試，等等。但我卻留下疑問：我們為什麼要這樣做？價值在哪裡？這項工作的風險或緊急程度如何？你希望我從哪裡提供意見？我應該注意什麼？由 AI 生成的票券或會議摘要也是如此。這些文字，就像世界上越來越多的事物一樣，是由脫離脈絡的陳述組成的。

有人寫了一封關於敏感話題的個人訊息給我，訊息顯然是經過 AI 潤飾的，試圖讓對話更細膩，以免冒犯我。但這封訊息變得不個人化、冷漠且語無倫次。它包含了所有要素，但整體卻不合邏輯。我對閱讀或回覆它沒有興趣。我寧願一個人用自己的聲音寫作，或帶點熱情，即使他們無法完全找到合適的詞語，或冒著冒犯我的風險。

在與他人的關係中，存在著脆弱和風險。與你的 AI 溝通時，則沒有這些，而試圖消除脆弱和風險，也會消除關係本身這個過程。正如 Simon Sarris 在他不斷回顧的文章《Resist Summary》中所寫：

我認為一個人應該盡可能用自己的經驗、自己的感官去寫作，賦予讀者對生活或事件的個人化描述。——Simon Sarris，《Resist Summary》

我見過最懶惰且最冒犯的 AI 寫作用法：有人竟然利用 AI 來總結我對他們提案的評論，並將其作為他們給我的回覆！謝謝！我自己也說不出這麼好的話！

Cynthia Dunlop 最近分享了一項關於閱讀 AI 生成文章的調查結果，標題為《Report: How developers react to AI-scented blog posts》。對於大多數讀者來說，如果他們認為一篇文章是 AI 輔助或 AI 撰寫的，他們就會停止閱讀（78%），並在未來避開該作者（71%）。正如 Bryan Cantrill 在他的文章《The revolt of the reader》中談到這項研究時所說：「我們的腦袋會觸發一個由 LLM 觸發的彈射手柄，在句子中途將我們彈出，以求自保。」

調查中最顯著的結果是，與 AI 進行的毫無靈魂的改寫相比，人們壓倒性地偏好作者自己的寫作（98%），即使其中有瑕疵和獨特之處。真誠地寫作是與人建立連結的最佳方式之一。這讓我想起 C++ 的創作者 Bjarne Stroustrup 在十多年前我參加的一個關於寫書的討論會上說過的一句話：

當我讀一本書時，我真的覺得，如果我能在腦海中聽到作者的聲音——帶著奇怪的口音和他們說話方式的特點——那麼我就覺得有些事情成功了。如果感覺像是枯燥的學術文本，那就是有人寫了又一篇枯燥的學術文本。而且，關於這個主題的演講真的很有幫助。而且，對許多人來說……我讀的時候能聽到他們說話的聲音，這很好。——Bjarne Stroustrup

當你主導了 AI 的提示詞時，寫出的內容通常很有用。但不要將此誤認為是有效的寫作。當你閱讀輸出結果時，你已經有了大量的脈絡——你制定了提示詞，設定了限制，並提供了文件、原始碼、日誌、統計數據、圖片等構件，這些都導致了輸出結果。你可以快速瀏覽輸出結果，並決定哪些是相關且有價值的，哪些是無關或錯誤的。你也是這個過程的一部分——提示 AI 並看到結果——一個呼喚與回應。你為機器帶來了人類的視角。當你將相同的文字發送給其他人時，他們幾乎沒有脈絡。他們不是這個過程的一部分——沒有展開——因此更難判斷哪些是相關的，哪些不是。他們被迫窮盡式地閱讀並考慮每一行，窺探機器的內部，希望能建立脈絡。停止閱讀是自然而然的。

我最近寫了一篇學術論文。我廣泛使用了 AI，它讓寫作過程更快、更愉快。但 AI 並沒有寫下論文中的任何一行。我用 LaTeX 寫了這篇論文。我提供給 AI 的脈絡包括期刊的風格指南和 LaTeX 範本、期刊上先前發表的所有論文、我正在撰寫的軟體系統的原始碼，以及軟體的生產部署配置、日誌和指標。

寫完一個段落後，我經常會要求 AI 參考原始碼或配置，或檢查生產日誌或指標，以確保我寫的內容是正確的。例如，確保我正確描述了資料庫中的哪些欄位被索引，或者 Parquet 檔案中的哪些列被排序。這讓我能夠保持在寫作的脈絡中，經常在 AI 驗證前一段的同時，繼續寫下一段。它幫助我發現重要的遺漏和錯誤。值得注意的是，反轉這個過程——要求 AI 從我提供的脈絡中寫出段落，例如從原始碼描述某個東西如何運作——從未有價值。一次也沒有。閱讀起來總是令人不快，而且經常不準確。

另一件幫助我保持脈絡的事情是使用 AI 來完成引用。查找論文、網站或書籍的詳細資訊，填寫 BibTeX 格式，然後在文中引用它，這很乏味。相反，我會留下括號指示 AI 來引用我想要的內容，然後繼續寫作，毫不間斷。

AI 在查找拼寫和語法錯誤方面非常出色——確實是無情的。它在建議簡化過長或不清晰的句子方面做得很好。它擅長用 TikZ 繪製技術圖表，再次加快了工作速度，並讓我無需學習這種語法。AI 甚至發現了一個非常微妙的錯誤，我在一個段落中使用了不正確的符號，而四位專業的系統審查員都沒發現這個錯誤。

AI 在寫作方面最出色的地方是什麼？它寫了摘要——整篇論文中最簡潔、最機械、最無人情味的部分——確實是最抽象的部分。我將其完全保留，未做任何更改。也許這不應該令人驚訝，因為 AI 在總結、抽象和重新呈現原創作品方面非常出色。

低估 AI 未來可能實現的寫作能力將是一個錯誤。我們仍處於模型開發的非常早期階段，我們大多數人使用的模型經過訓練，旨在務實、直接和正確，而不是富有創意。然而，Murat Demirbas 的優秀文章《The Safest Job from AI may be Writing》指出，LLM 的寫作品質已經停滯不前，並且可能難以提高，因為與程式設計、數學和會計不同，很難提供清晰的公式和可驗證的輸出。

由於 LLM 缺乏對特定人類讀者的積極心智模型，它們只是在龐大的數據集上優化下一個詞的統計機率。它們無法同情人類讀者，因為它們沒有人類的生活經驗。而且它們毫無風險。

我對最近遇到的兩項改進 AI 寫作的努力很感興趣。第一個是 ASD-STE100 簡化技術英語，這是一個源自 1980 年代航空航太工作組的技術文件寫作標準。它有兩部分：一個受控詞彙表和關於語法和風格的寫作規則。ASD-STE100 的一個版本已經創建，用於 AI 模型。ASD-STE100 不適用於所有 AI 生成的寫作——它專門針對清晰易懂的說明手冊。我將嘗試將其用於安裝說明、運行手冊和類似文件。

第二個是 Pangram，一個經過微調以偵測 AI 寫作的模型。Bryan Cantrill 在《The revolt of the reader》一文中指出：

使用 LLM 寫作，就是 void 了寫作者和讀者之間的社會契約：我們讀者不應該被期望去努力理解一個寫作者自己都沒有努力創作的句子。——Bryan Cantrill，《The revolt of the reader》

我完全同意。Bryan 已經開始嘗試使用 Pangram 來偵測違反此契約的 AI 生成寫作，甚至規定 Oxide 的所有公開寫作都必須由 Pangram 回報為人類撰寫。這樣的工具可以拯救我們免於最懶惰、最糟糕的 AI 寫作。

當我們寫作時，我們話語的意義並不總是直接、事實或簡潔的。例如詩歌、文學、歌曲、神話、幽默和戲劇。Iain McGilchrist，我認為他是我們這個時代最重要的作家之一，在他的著作《The Matter with Things》中寫道：「某件事越重要，我們就越必須努力嘗試將其簡化為語言。」問一個 LLM 墜入愛河的可靠公式是什麼。在 AI 生成的寫作中，詳細的資訊會產生意義的錯覺。但在模仿人類知識、智慧和理解力時，AI 寫作關於事實與來自生活經驗的寫作品質有很大的不同。整體無法分解為部分，而不會造成意義的重大損失。

直接的方法會破壞其對象。同樣，有些事物只能間接傳達。為了重現所說內容的深度，或者為了說出真正新穎的東西，我們總是在超越日常語言，這意味著要警惕那些隱含的表達。——Iain McGilchrist，《The Matter with Things》

說商業、工程或科學寫作應該包含不確定性，而不僅僅是事實和結論，這似乎很愚蠢。但營運、事件響應、產品開發、效能工程、尋找安全漏洞、績效評估、使命宣言，以及許多其他領域，都具有創造性並涉及不確定性。敘事與事實和結論同等重要。將 LLM 擬人化為優秀的系統思考者也很容易，因為它們可以綜合如此廣泛的資訊。然而，回到 Simon Sarris：「敘事抵抗壓縮」和「總結的反面是關注細節」。

儘管強調線性、第一原理思考，但優秀的系統工程師的工作，就像優秀的人類學家或心理學家一樣，很難用言語表達，尤其是用總結的方式。你不能僅僅通過觀察並使用公式來寫下事物。即使寫下來也會失去一些脈絡。觀察者也是該脈絡的一部分。系統工作總帶有一種探索的感覺，保持對未知的開放，與系統本身建立關係的展開，以及願意感到驚訝。正常的語言並不總是有合適的詞語。

輸出的性質，即總結，是為了加快進程。但其後果是讓你避免建立自己複雜的心智模型。我擔心，如果沒有自己腦中的複雜模型，一個人可能永遠不會注意到那些 otherwise 被忽略的複雜關係。對細節的關注喪失。——Simon Sarris，《Resist Summary》

我不想生活在一個你使用 AI 將重要事物總結成無法閱讀的文字，然後我再使用 AI 試圖解讀它的世界裡。我想要聽到你的聲音，包括所有不完美之處。我想要你對美學、美感、品質、關係、時間的詮釋。我想要知道你的感受。我想要你直截了當地告訴我什麼才是真正重要的。我不想閱讀與經驗和關係脫節的事實和連結的總結。正如 Iain McGilchrist 所描述的，我們關注世界的方式改變了事物的本質，而這也是我們唯一能認識的世界。

如果你要求機器為你做某事，你就有可能沒有要求你真正想要的，而是要求它擅長做的事情。如果它擅長做的是總結，而你依賴這個工具，你可能會調整你的問題，以便得到更好的答案。這看起來像是訓練機器做你想要的事情，但它也是在訓練你自己以某種方式提問世界。你省略了哪些問題？——Simon Sarris，《Resist Summary》

有意識的寫作可能會變得更有價值。那些寫作，並為了思考、為了深入仔細地思考，或為了創作、分享、捕捉重要事物而不明確表達的人，將繼續寫作並產生原創作品。那些從未寫過東西的人將利用 AI 產生大量文字。

隨著我們閱讀越來越多由 AI 生成的文字，我們可能不會注意到 AI 破壞和改變了什麼，因為我們本身變得更加膚淺了。對確定性的追求限制了我們的人性。有時候，找不到合適的詞語反而更重要。我不想讀你沒寫的東西。