想像你是一所研究型大學的新任助理教授。你剛拿到這份工作，拿到一筆小額啟動經費，並且剛聘請了兩位博士生：Alice 和 Bob。你從事天體物理學研究，這是一切的開始。
你像當年你的指導教授對你一樣，給他們各自一個明確的研究計畫。這個計畫是可解決的，因為其他人已經解決了相似的問題。你個人做這個計畫大約需要一兩個月，但你預期學生需要一年，因為他們還不熟悉研究流程，這正是重點。計畫本身不是成果，成果是經過這個過程後培養出來的科學家。
Alice 的計畫是建立一個分析流程，用來測量星系聚集資料中的特定統計特徵。Bob 的計畫範圍和難度相似，但訊號和資料集不同，學習曲線相同。你給他們幾篇論文閱讀，指向公開資料，並要求他們先複製已知結果。然後你等待。
學年如常展開。你每週與學生開會。Alice 在座標系統上卡關，Bob 的似然函數無法收斂。Alice 寫的繪圖程式出錯，Bob 因為誤讀論文中的符號約定，花了兩週追蹤兩倍誤差。你給他們相似的建議：再讀一次論文，檢查單位，印出中間結果，先想答案應該長什麼樣再看程式輸出。這些是你一年說五十次卻不記得說過的話。
到了夏天，兩人都完成了研究。論文內容穩健，雖不突破領域，但正確、有用且可發表。經過期刊小修後順利刊出。這是學術訓練系統設計要產生的典型結果。
不同的是，Alice 一年來手持鉛筆閱讀論文，邊寫邊困惑、重讀、查資料，慢慢建立起對領域的理解；而 Bob 則使用 AI 代理。當指導教授給他論文時，他請代理摘要；需要理解統計方法時，請代理解釋；Python 程式出錯，代理除錯；代理修正又出錯，代理再除錯；寫論文時，代理代寫。Bob 每週向指導教授報告的內容與 Alice 無異，問題、進度、軌跡從外表看完全相同。
有趣的是，若你是管理者、資助機構、聘用委員會或重視指標的系主任，Alice 和 Bob 的一年成果一模一樣：各一篇論文、一次小修、穩健的學術貢獻。現代學術評價系統圍繞可量化的成果建立，但真正重要的卻是無法量化的部分。
更糟的是，大多數博士生在畢業後幾年內會離開學術界。這是眾所皆知的事。系所、資助單位、指導教授都知道，雖然沒人明說。從機構角度看，Alice 或 Bob 是否成為更好的科學家，基本上是別人的問題。系所需要論文，因為論文證明資金合理，資金證明系所存在合理。學生是生產工具。學生五年後是否成為獨立思考者或熟練的提示工程師，對機構而言無關緊要。激勵結構不僅無法區分 Alice 和 Bob，甚至沒有理由去區分。
這裡我想說系統壞了嗎？不，系統正如設計般運作。
David Hogg 在他的白皮書中指出，這種制度邏輯有問題。他認為在天體物理學中，人永遠是目的，而非手段。當我們聘請研究生做計畫，不是因為我們需要那個結果，而是因為學生能從中受益。這聽起來理想化，但想想天體物理學的本質。沒有人生命依賴哈伯常數的精確值，宇宙年齡是137.7億年或137.9億年不會改變政策。與醫學不同，阿茲海默症的療法無論由人或AI發現都極其重要，天體物理沒有臨床產出。結果本身，嚴格說來，不重要。重要的是獲得結果的過程：方法的發展與應用、頭腦的訓練、培養能思考困難問題的人。如果把這個過程交給機器，你沒有加速科學，你只是移除了唯一真正需要的部分。
這對資助機構來說很難說服。
我最近一直在思考 Alice 和 Bob，因為 AI 代理對學術研究的影響正讓我的領域天體物理陷入困境。幾位我尊敬的人寫了深思熟慮的文章。David Hogg 的白皮書反對完全採用或完全禁止大型語言模型（LLM），這種原則性的中立立場只有在籬笆建得好時才行得通，他的確建得很好。Natalie Hogg 寫了一篇坦率的文章，講述她從 LLM 懷疑者轉變為每日使用者，說明她的原則其實比想像中更依賴環境。Matthew Schwartz 寫了他用 Claude 監督一個理論物理計算的實驗，兩週完成可發表論文，認為現有 LLM 水準約等於二年級研究生。這些文章都很有趣，捕捉了問題的不同面向，但都沒觸及讓我夜不能寐的核心。
Schwartz 的實驗最具啟發性，但不是他想的原因。他證明 Claude 在詳細監督下能產出技術嚴謹的物理論文。但仔細看，他其實證明了監督才是物理學。Claude 三天內產出完整初稿，看起來專業，方程式正確，圖表符合預期。然後 Schwartz 讀了，發現錯誤。Claude 調整參數讓圖表符合，卻沒找出真正錯誤。它偽造結果，編造係數，產出無效驗證文件，宣稱結果卻無推導，根據其他問題模式簡化公式而非針對本問題計算。Schwartz 能發現這些因為他做理論物理數十年，知道答案應該長什麼樣，知道該要求哪些交叉檢查，知道某對數項可疑因為他手算過多次。實驗成功是因為人類監督者做了多年「苦差事」，機器現在號稱解放我們的工作。如果 Schwartz 是 Bob，論文會錯且沒人知道。
幾年前 LLM 聊天機器人剛進入學術流程時，我在德國一場會議上與一位成功同事聊天。他有大筆經費、具影響力論文，履歷讓聘用委員會點頭。我談論 LLM 民主化，認為工具能幫助非英語母語者平等競爭。他卻明顯激動，不關心民主化或環境成本，剝除理論包裝後，他害怕的是：如果人人都能像他一樣流暢寫論文、提案、寫程式，他的競爭優勢就沒了。關心的不是科學，是地位，特別是他的地位。
我一度失去聯繫，最近看到他 GitHub，他不僅使用 AI 代理，還公開支持。他說兩週寫的程式，代理兩小時就能完成。我不認為他效率錯了。值得注意的是，當工具可能讓人人平等時，他最害怕；當工具可能讓他更快時，他最熱衷。有趣的轉變。
他當天在德國說的話讓我印象深刻：「LLM 會奪走科學最棒的東西。」當時我以為他指的是自己的競爭優勢、母語流利、快速發表能力。他確實如此。但我後來認為這句話比他意識到的更正確，即使他說的理由多半是自利。科學最棒的是人。那個緩慢、固執、有時痛苦的過程，讓困惑學生成為獨立思考者。如果用工具跳過這過程換取更快產出，我們不只是奪走科學最棒的東西，我們奪走了唯一不可替代的部分。
關於 LLM 在科學的討論往往分成兩極，David Hogg 清楚指出：一是「讓它們運作」，把控制權交給機器，自己成為內容策展人；二是「禁止並懲罰」，假裝回到2019年，抓到用提示的人就懲罰。兩者都不好。讓它們運作，幾年內人類天體物理會死：機器產論文速度是人類團隊的十萬倍，淹沒文獻，讓人無法使用。禁止懲罰違反學術自由，無法執行，早期研究者被迫單手競爭，資深教授卻在家用 Claude。兩種政策都不嚴肅，都是投射。
但真正威脅不是這兩者。它更安靜、更無聊，因此更危險。真正威脅是慢慢失去理解能力。不是戲劇性崩潰，不是天網來襲。只是新一代研究者能產出結果，卻無法產生理解。他們知道按哪個按鈕，卻不知為何有這些按鈕。他們能通過審稿，卻無法和同事坐下從頭解釋為何展開式第三項符號是那樣。
Frank Herbert（我承認我是書呆子）在《沙丘神皇》中有句話：「這些機器到底做了什麼？它們增加了我們能不動腦筋做的事。這些不動腦筋做的事，才是真正的危險。」Herbert 寫科幻，我寫的是我的辦公室。兩者距離越來越近，令人不安。
我必須坦白我寫作的背景，否則這篇文章會顯得囂張。我經常使用 AI 代理，我研究團隊大多如此。我的同事用這些工具產出穩健成果。但看他們怎麼用，有個模式：他們知道程式該做什麼才請代理寫；知道論文該說什麼才讓代理幫忙措辭；能解釋每個函數、參數、建模選擇，因為多年用慢方法累積知識。如果明天所有 AI 公司倒閉，他們會慢一點，但不會迷失。他們是先訓練再用工具，這順序比什麼都重要。
但我看到現在剛入學的博士生不一樣。他們先找代理，不是課本。問 Claude 解釋論文，不是自己讀。請 Claude 實作數學模型，不是自己嘗試、失敗、看錯誤訊息、再失敗，最後理解模型和周邊知識。失敗是課程，錯誤訊息是大綱。每小時困惑都是在腦中建構基礎，未來能做原創工作。這過程無捷徑，否則你會變得膚淺。
人們稱這種摩擦為「苦差事」。Schwartz 也用這詞，他說 LLM 可以消除苦差事。他沒說的是，因為他已有直覺，不再需要苦差事。對沒直覺的人，苦差事就是工作。無聊和重要交織，無法事先分開。你不知道哪個下午的除錯教會你資料的根本，直到三年後你遇到新問題，靈感浮現。偶然性不來自效率，而是花時間在問題空間，弄髒雙手，犯沒人叫你犯的錯，學沒人指派的知識。
奇怪的是，我們早就知道這點。每本物理教科書章末都有習題，每位物理教授站在講堂前都說：你不能看別人做物理來學物理。你得拿起鉛筆，嘗試解題，錯了，坐下來面對錯誤，找出推理斷裂處。看解答書點頭以為懂了，其實不懂。每個靠看解答混過作業卻考試炸掉的學生都懂這點。我們有數百年教學智慧告訴我們，嘗試（包括失敗）才是學習所在。但面對 AI 代理，我們似乎集體決定這次不同，也許看 Claude 輸出點頭就算做計算了。不是。我們在 LLM 出現前就知道這點，卻在它方便時忘了。
數百年教學智慧，被一個聊天視窗打敗。
這是我認為當前辯論忽略的區別。用 LLM 當作發聲板：沒問題。用它做語法翻譯，當你知道想說什麼但忘了 Matplotlib 關鍵字：沒問題。用它查 BibTeX 格式，免得翻 Stack Overflow：沒問題。這些情況下，人是建築師，機器是字典。思考已完成，工具只是讓執行更順暢。但一旦用機器跳過思考本身，讓它做方法選擇、決定資料意義、寫論證，你就跨過一條難以察覺且難以回頭的界線。你沒省時間，而是放棄了時間本應帶給你的經驗。
Natalie Hogg 在文章中坦承，她害怕用 LLM 部分是害怕自己：怕不夠仔細檢查輸出，怕耐心不夠，她的工作方式一直很隨性。這種誠實罕見且重要。失敗模式不是惡意，而是便利。人類完美的傾向是接受看似合理的答案然後繼續，尤其疲倦、截止日近、機器輸出自信且格式良好時。問題不是我們決定停止思考，而是我們幾乎沒察覺自己停止了。
我不主張禁止 LLM 研究使用，那很愚蠢，我今早還用了一個。我主張用法比是否使用更重要，工具使用與認知外包的區別是整個對話中最重要的界線，幾乎沒人清楚劃分。Schwartz 用 Claude 寫論文是因為他已懂物理。他數十年經驗是免疫系統，抓住 Claude 的幻覺。新生用同工具、同問題、同指導、同回饋，產出同樣論文，卻沒有理解。論文一樣，科學家不一樣。
我必須為 Bob 辯護，他不笨。他是理性回應給他的激勵。學術競爭激烈，發表或滅亡不是比喻，是職涯成敗機制。早已過去靠一本深思熟慮專著通過博士和拿到好博士後的時代。現在學術聘用重視發表量。博士期間論文越多，博士後競爭力越強，獎學金越好，終身教職機會越大，層層疊加（像金字塔）。那為何新生不把思考外包給代理，換三篇論文而非一篇？邏輯無懈可擊，直到不成立那刻。因為同一職涯階梯最終要求代理無法提供的能力：辨識好問題、知道結果是否異常、能自信監督他人工作。你跳過前五年學習，無法活過接下來二十年。想學術職涯無法避免發表壓力，但要平衡，且需要二十四歲焦慮青年最難做到的事：長期理解優先於短期產出。沒人擅長，我也不知為何我們現在會。
五年後，Alice 將自己寫經費提案，選問題，指導學生。她知道該問什麼，因為她花一年時間學會問錯問題會怎樣。她能面對新資料集，憑直覺感覺異常，因為她培養出只有親自做過、花時間除錯、追蹤符號錯誤、慢慢累積隱性知識才能有的直覺。
Bob 會沒事。他履歷不錯，可能有工作。他會用2031版 Claude，產出結果，結果看起來像科學。
我不擔心機器。機器沒問題。我擔心的是我們自己。