廣義上的分散式系統和其他奇聞。本網站上的觀點僅代表我個人。
如今，科技從業人員正爭先恐後地改變工作流程，以滿足新近膨脹的五倍生產力配額，同時又因代理程式生成的程式碼所帶來的認知負擔而苦不堪言。隨著每一個新模型的發布，差距都在擴大，人類在迴圈中越來越成為瓶頸，作為「程式設計師」的地位也日益接近被淘汰。
雖然程式設計師的工作描述正在被徹底重寫，但寫作卻出人意料地未受影響。大型語言模型（LLM）在生成程式碼方面已經做得非常出色，但我對它們產出的散文品質感到震驚。它們總是遵循相同的機械化節奏和陳腔濫調，並到處散播著同樣陳腐的詞彙。它們將我那雖有瑕疵卻充滿靈魂的文字，以改進文筆之名，轉變成毫無靈魂的塑膠文字垃圾。它們的寫作傳達不出任何實際的理解和洞見。我認為我們都對 AI 寫作產生了一種發自內心的厭惡感。它被困在恐怖谷（uncanny valley）中，而且可能會在那裡停留很長一段時間。
我越來越確信，LLM 在短期內不會對優秀的寫作者構成威脅。我的預測基於以下三個觀察。請告訴我我的邏輯在哪裡出了問題。
LLM 寫作的「卡在爛泥」狀態並非因為沒有努力。AI 實驗室已經在改進散文方面付出了巨大努力，但卻遇到了瓶頸。大型語言模型巨頭本來很樂意推出更強大的寫作能力，以零邊際成本征服行銷、文案和出版業。
看看圖像、語音，甚至是影片模型。它們進步得很快，因為可以透過更多的參數和運算能力來擴展。與它們的快速進展相比，文本模型的表達、深度和真實性卻嚴重停滯不前。我認為要彌合最後的 20%（這也適用於圖像、語音、影片模型）是非常困難的。
在系統理論中，「惡疾問題」（wicked problem）是指一個問題缺乏明確的定義、清晰的停止規則和客觀正確的解決方案。寫作是終極的惡疾問題，因為其背景不斷變化，一篇作品永遠無法真正完成編輯，而成功的真正衡量標準本質上是主觀的。
沿著這個「惡疾」光譜映射領域，可以解釋為什麼 AI 在某些領域佔據主導地位，而在其他領域卻產生了徹底的爛泥：
與程式設計不同，程式設計是與確定性編譯器進行單向互動，而散文是一個由「心智理論」（Theory of Mind）支配的雙向問題。它需要能夠即時持續模擬讀者內在心理狀態的能力。要寫得簡單且有說服力，你必須追蹤讀者已知的一切，逐句管理他們的認知負荷，並預測論點將如何被接受。
由於 LLM 缺乏對特定人類讀者的活躍心智模型，它們只是在龐大的數據集上優化下一個詞的統計機率。它們無法同情人類讀者，因為它們沒有人類的生活經驗。而且它們毫無利害關係。
為了讓這個論點落地，讓我們引入大衛·李嘉圖和古典經濟學。比較優勢法則指出，即使一方比另一方更有效率地生產一切，雙方仍然可以從專注於相對機會成本最低的領域中獲益。換句話說，即使 AI 在打字速度和以零邊際成本產生大量內容方面具有絕對優勢，我們人類的勞動仍然受制於我們稀缺資源在哪裡浪費最少的機會成本。
人類將稀缺的認知能力用於通用和重複性任務的機會成本現在無限高。相反，人類的努力在 AI 失敗的地方閃耀，那就是駕馭惡疾問題和推動創造力。
這就是經濟學與演化生物學的交匯之處，「人類工作證明」（human proof-of-work）成為終極的昂貴訊號。在自然界中，昂貴的訊號（如孔雀的尾巴或麋鹿的鹿角）之所以有效，是因為它生產成本高昂且無法偽造。隨著 AI 產生的爛泥充斥網路，（請原諒我的雙關語）經濟價值完全轉移到真實的人類聲音上。
與科技從業人員不同，作家不必改變他們工作方式的任何地方來優化他們的比較優勢並捕捉這個昂貴的訊號。正如 AI 正在剝離軟體的偶然複雜性以暴露其內在複雜性一樣，科技工作者正在努力適應。但優秀的作家一直以來都在「惡疾」前沿與溝通的內在複雜性搏鬥，他們仍然未受影響。也許程式設計本身也正在轉變成一種創意寫作的形式，變得越來越有主見和更具架構性。