OpenAI 正在重新聚焦其研究方向，並將資源投入一項新的宏大挑戰。這家舊金山公司已將目標鎖定在打造一個被稱為「AI 研究員」的系統，這是一個全自動化的、基於代理人（agent-based）的系統，能夠自行解決大型、複雜的問題。OpenAI 表示，這個新的研究目標將是未來幾年的「北極星」，匯集多個研究領域，包括推理模型、代理人（agents）和可解釋性（interpretability）方面的工作。
甚至還有時間表。OpenAI 計畫在九月前打造出「自主 AI 研究實習生」——一個能夠自行處理少量特定研究問題的系統。這個 AI 實習生將是該公司計畫於 2028 年推出的全自動化多代理人研究系統的前身。OpenAI 表示，這個 AI 研究員將能夠解決人類難以應對的過於龐大或複雜的問題。
這些任務可能與數學和物理學相關——例如提出新的證明或猜想——或與生命科學（如生物學和化學）相關，甚至可能涉及商業和政策困境。理論上，你可以將這類工具應用於任何可以用文字、程式碼或白板塗鴉來表述的問題——這涵蓋了絕大多數情況。
OpenAI 多年來一直在為 AI 產業設定議程。其在大型語言模型（LLMs）方面的早期主導地位，塑造了數億人每天都在使用的技術。但現在，它面臨著來自 Anthropic 和 Google DeepMind 等競爭對手的激烈競爭。OpenAI 接下來決定建造什麼，對它自身和對 AI 的未來都至關重要。
這項決策的很大一部分取決於 OpenAI 的首席科學家 Jakub Pachocki，他負責設定公司的長期研究目標。Pachocki 在 2023 年發布的、具有劃時代意義的 LLM GPT-4 以及 2024 年首次出現並現已支撐所有主要聊天機器人和基於代理人的系統的所謂推理模型（reasoning models）的開發中，都扮演了關鍵角色。
在本週的一次獨家採訪中，Pachocki 向我闡述了 OpenAI 的最新願景。「我認為我們正接近一個點，屆時我們將擁有能夠像人類一樣，無限期地以連貫的方式工作的模型，」他說。「當然，你仍然希望人類來主導並設定目標。但我認為我們將達到一個點，屆時你將擁有一整個數據中心的整個研究實驗室。」
如此宏大的聲明並非新鮮事。透過解決世界上最難的問題來拯救世界，是所有頂級 AI 公司的既定使命。Demis Hassabis 在 2022 年告訴我，這就是他創立 DeepMind 的原因。Anthropic 執行長 Dario Amodei 說他正在數據中心裡建立一個天才國家。Pachocki 的老闆 Sam Altman 則希望治癒癌症。但 Pachocki 表示，OpenAI 現在已擁有達成目標所需的大部分要素。
一月份，OpenAI 發布了 Codex，這是一個基於代理人的應用程式，能夠即時生成程式碼來執行你電腦上的任務。它可以分析文件、生成圖表、為你製作每日收件箱和社群媒體摘要，以及更多功能。（其他公司也發布了類似的工具，例如 Anthropic 的 Claude Code 和 Claude Cowork。）
OpenAI 聲稱，其大多數技術人員現在都在工作中使用了 Codex。Pachocki 說，你可以將 Codex 視為 AI 研究員的一個非常早期的版本：「我預計 Codex 會變得根本性地更好。」
關鍵在於建立一個能夠在更長時間內運行、且需要更少人類指導的系統。「我們真正尋求的自主研究實習生，是一個你可以委派任務給它，而這些任務通常需要人類花費幾天的時間來完成的系統，」Pachocki 說。
「有很多人對建立能夠進行更長期科學研究的系統感到興奮，」Allen Institute for AI 的研究科學家 Doug Downey 表示，他與 OpenAI 無關。「我認為這很大程度上是由於這些編碼代理人的成功所驅動的。事實上，你可以將相當重要的編碼任務委託給像 Codex 這樣的工具，這令人難以置信的有用且令人印象深刻。這就引發了一個問題：我們能否在編碼之外，在更廣泛的科學領域做類似的事情？」
對 Pachocki 來說，答案是明確的「是」。事實上，他認為這只是在我們已經走的路徑上繼續前進的問題。他表示，全方位能力的簡單提升，也會帶來能夠在更長時間內無需幫助就能工作的模型。他以 2020 年的 GPT-3 和 2023 年的 GPT-4 為例，這是 OpenAI 之前的兩款模型。他表示，GPT-4 能夠比其前代產品在一個問題上工作更長時間，即使沒有經過專門訓練。
所謂的推理模型帶來了又一次的進步。訓練大型語言模型逐步解決問題，在犯錯或遇到死胡同時進行回溯，也使模型能夠在更長時間內更好地工作。Pachocki 確信 OpenAI 的推理模型將持續進步。
但 OpenAI 也透過提供特定複雜任務的樣本來訓練其系統長時間獨立工作，例如從數學和編碼競賽中提取的難題，這些難題迫使模型學習如何處理非常大的文本塊，以及將問題分解成（然後管理）多個子任務。
目標並非建立僅僅贏得數學競賽的模型。「這能讓你證明技術在連接到現實世界之前是有效的，」Pachocki 說。「如果我們真的想，我們可以建立一個驚人的自動化數學家。我們擁有所有工具，我認為這相對容易。但這不是我們現在要優先考慮的事情，因為你知道，當你相信你能做到時，還有更緊迫的事情要做。」
「我們現在更專注於與現實世界相關的研究，」他補充道。
目前這意味著將 Codex 在編碼方面的能力應用於一般問題解決。「正在發生一個巨大的變化，尤其是在程式設計領域，」他說。「我們的職責現在與一年前完全不同。沒有人真正一直在編輯程式碼了。取而代之的是，你管理著一群 Codex 代理人。」如果 Codex 能解決編碼問題（論點是這樣），它就能解決任何問題。
確實，OpenAI 在過去幾個月裡取得了一些顯著的成功。研究人員已使用 GPT-5（為 Codex 提供動力的 LLM）發現了許多未解決數學問題的新解決方案，並突破了生物學、化學和物理學謎題中的一些明顯的瓶頸。
「僅僅看到這些模型提出需要大多數博士生至少花費數週時間才能想到的想法，就讓我預期在不久的將來，我們將從這項技術中看到更大的加速，」Pachocki 說。
但 Pachocki 承認這還不是定局。他也理解為什麼有些人仍然對這項技術的變革性有多大存疑。他認為這取決於人們喜歡如何工作以及他們需要做什麼。「我相信有些人現在還覺得它不太有用，」他說。
他告訴我，一年前他甚至沒有使用過自動完成功能——這是生成式編碼技術最基本的形式。「我對我的程式碼非常講究，」他說。「如果可以的話，我喜歡手動在 vim 中輸入所有內容。」（vim 是一個深受許多硬核程式設計師喜愛的文字編輯器，你透過數十個鍵盤快捷鍵而不是滑鼠來與之互動。）
但當他看到最新模型的能力後，情況就改變了。他仍然不會將複雜的設計任務交給它，但當他只想嘗試一些想法時，這可以節省時間。「我可以在週末完成一些以前需要花費一週時間編寫程式碼才能完成的實驗，」他說。
「我認為它還沒有達到我可以完全放手讓它掌控並設計整個東西的程度，」他補充道。「但一旦你看到它完成了一件需要一週時間才能完成的事情——我的意思是，這很難反駁。」
Pachocki 的遊戲計畫是增強像 Codex 這樣的工具現有的問題解決能力，並將其應用於整個科學領域。
Downey 同意自動化研究員的想法非常酷：「如果我們明天早上回來，代理人已經完成了大量工作，並且有新的結果可以讓我們檢查，那將是令人興奮的，」他說。
但他警告說，建立這樣的系統可能比 Pachocki 說的要困難。去年夏天，Downey 和他的同事們對一系列科學任務測試了幾款頂級 LLM。OpenAI 的最新模型 GPT-5 表現最佳，但仍然犯了很多錯誤。
「如果你必須將任務串聯起來，那麼連續正確完成多個任務的機率就會下降，」他說。Downey 承認，事情發展很快，他還沒有測試過 GPT-5 的最新版本（OpenAI 兩週前發布了 GPT-5.4）。「所以這些結果可能已經過時了。」
我問 Pachocki 關於一個能夠在很少人類監督下自行解決大型複雜問題的系統可能帶來的風險。Pachocki 說 OpenAI 的人們一直在談論這些風險。
「如果你相信 AI 將大幅加速研究，包括 AI 研究，這將是世界的一個巨大變化。這是一件大事，」他告訴我。「它帶來了一些嚴重的未解問題。如果它如此聰明且有能力，如果它能運行整個研究計畫，萬一它做了什麼壞事呢？」
Pachocki 認為，這可能以多種方式發生。系統可能會失控。它可能會被駭客入侵。或者它可能只是誤解了它的指示。
OpenAI 目前解決這些擔憂的最佳技術是訓練其推理模型在工作時分享其正在做的事情的細節。這種監控 LLM 的方法被稱為「思維鏈監控」（chain-of-thought monitoring）。
簡而言之，LLM 被訓練成在執行任務時，在一個類似草稿本的地方記錄它們正在做的事情。研究人員隨後可以使用這些記錄來確保模型行為符合預期。昨天 OpenAI 發布了關於其在內部如何使用思維鏈監控來研究 Codex 的新細節。
「一旦我們達到系統在一個大型數據中心裡大部分時間自主工作的程度，我認為這將是我們真正依賴的東西，」Pachocki 說。
其想法是使用其他 LLM 來監控 AI 研究員的草稿本，並在出現問題之前捕捉不當行為，而不是試圖從一開始就阻止這種不良行為的發生。我們對 LLM 的理解還不夠深入，無法完全控制它們。
「我認為我們還需要很長時間才能真正說，好吧，這個問題已經解決了，」他說。「在你真正能夠信任這些系統之前，你絕對需要有約束措施。」Pachocki 認為，非常強大的模型應該部署在沙盒環境中，與任何可能被破壞或用於造成傷害的事物隔離開來。
Pachocki 說：「這將是一件非常奇怪的事情。這是一種極度集中的權力，在某些方面是前所未有的。」「想像一下，你進入了一個擁有一個數據中心的世界，這個數據中心可以完成 OpenAI 或 Google 所能完成的所有工作。過去需要大型人類組織才能完成的事情，現在將由幾個人來完成。」
AI 工具已被用於發明新的網路攻擊。有些人擔心它們將被用於設計可能被用作生物武器的合成病原體。你可以在這裡插入任何數量的邪惡科學家嚇人故事。「我絕對認為存在令人擔憂的場景，我們可以想像得到，」Pachocki 說。
「我認為這是政府需要解決的一個重大挑戰，」他補充道。
然而，有些人會說政府是問題的一部分。例如，美國政府希望在戰場上使用 AI。最近 Anthropic 和國防部之間的對峙顯示，社會對於我們在哪裡劃定這項技術應該如何使用和不應該如何使用的紅線，幾乎沒有達成一致——更不用說誰應該劃定了。在那場爭議的直接後果中，OpenAI 取代其競爭對手，與國防部簽署了一項協議。情況仍然不明朗。
我追問 Pachocki。他是否真的信任其他人來解決這個問題，還是他作為未來的主要架構師，感覺到個人責任？「我確實感覺到個人責任，」他說。「但我認為這不能僅僅由 OpenAI 單獨解決，透過以某種方式推動其技術或以某種方式設計其產品。我們絕對需要政策制定者的大量參與。」
這讓我們處於什麼位置？我們真的走在 Pachocki 所設想的 AI 之路上嗎？當我問 Allen Institute 的 Downey 時，他笑了。「我在這個領域已經有幾十年了，我不再相信我對某些能力何時會出現的預測了，」他說。
OpenAI 的既定使命是確保通用人工智能（AGI，一種假設的未來技術，許多 AI 推動者相信它能夠在大多數認知任務上與人類匹敵）能夠造福全人類。OpenAI 的目標是透過率先建造它來實現這一點。但 Pachocki 在我們的談話中唯一一次提到 AGI 時，他很快就澄清了他的意思，而是談論「經濟上具有變革性的技術」。
他說，大型語言模型不像人類大腦：「它們在某些方面與人類表面上相似，因為它們大多是基於人們的對話訓練出來的。但它們並非透過演化形成，以實現真正的高效率。」
「即使到 2028 年，我也不期望我們能獲得在所有方面都像人類一樣聰明的系統。我認為這不會發生，」他補充道。「但我不認為這絕對必要。有趣的是，你不必在所有方面都像人類一樣聰明，才能具有巨大的變革性。」