正如我昨天提到的，今天的Stratechery訪談時間較早——週二而非週四——交付時間較晚——下午一點東部時間而非早上六點——因為主題受到保密協議的限制。這個保密協議在過去幾天為我造成了一些奇怪的局面：
我認為微軟與OpenAI的交易對雙方來說都非常有意義。以下是微軟貼文中關於新安排的重點：
我認為最後一點最重要。Azure曾因能夠提供OpenAI模型而擁有真正的競爭優勢，但這也阻礙了OpenAI，特別是當許多企業首先關心的是在其現有雲端選擇上存取模型時；我已經注意到這對Anthropic來說是一個真正的競爭優勢。換句話說，Azure的獨家性實際上損害了微軟對OpenAI的投資，鑑於Anthropic今年快速的成長，微軟需要照顧他們的投資，即使這會削弱Azure的差異化。
同時，OpenAI顯然看到了AWS的巨大機會——如此之大，以至於他們將在未來幾年放棄Azure相關的收入（這將有助於Azure管理層更好地接受失去獨家性；沒有了與OpenAI的收入分成，他們的損益表將會好看得多）。OpenAI也將微軟從AGI條款中釋放出來；現在兩家公司之間的協議將持續到2032年，無論如何。
顯然，OpenAI的重點將放在AWS上，而這方面最大的證據就是本次訪談的主題：由OpenAI驅動的Bedrock Managed Agents。思考這個產品最簡單的方式就是AWS中的Codex；Codex之所以有效，很大程度上是因為它是本地運行的，這免費提供了大量的複雜性，尤其是在安全性方面。讓代理在整個組織中工作是另一回事，而這個產品的目標是讓這些工作流程對那些大部分數據已經在AWS中的組織更加容易存取。
為此，在本次訪談中，我們討論了AWS如何創造了整個雲端類別及其對新創公司的影響，以及AI與先前範式轉移的相似與不同之處。然後我們討論了Bedrock Managed Agents，它是什麼，以及它與亞馬遜現有的AgentCore產品有何不同。我們還觸及了Trainium以及為什麼晶片對大多數AI用戶來說並不重要，以及為什麼與Google專注於完全整合相比，合作夥伴關係更有意義。
提醒一下，所有Stratechery的內容，包括訪談，都可以作為播客收聽；點擊此電子郵件頂部的連結即可將Stratechery添加到您的播客播放器。
本次訪談為求清晰已進行輕微編輯。
Matt Garman和Sam Altman——嗯，Matt，歡迎來到Stratechery——Sam，歡迎回來[我先前在2025年10月、2025年3月和2023年2月採訪過Altman]。
Matt Garman：謝謝，謝謝邀請我。
所以Matt，這是您第一次上Stratechery。唉，我認為Sam的出現將會排除常規的認識環節。況且，他不想聽我們回憶在Kellogg商學院的時光，但很高興有一位校友上播客。
MG：是的，我很高興來到這裡。我下次會再來，我們可以做更深入的探討。
那太好了。您從實習生時期就開始在AWS工作，現在您正引領整個組織度過AI浪潮。建立AI業務與建立最初的商品化計算業務（如果找不到更好的詞的話）有哪些相同之處，又有哪些地方真的不同？
MG：我認為相同之處在於，我看到了同樣的興奮感，以及開發者能夠做以前從未做過的事情。當我們剛開始AWS時，很酷的一點是，開發者突然可以獲得只有那些擁有數百萬美元建立數據中心的巨頭才能獲得的基礎設施。只需一張信用卡和幾美元，他們就可以啟動應用程式，這真正地擴展了網際網路上開發者的可能性。我們採取了人們可以隨心所欲地建造的理念，我們不會預設他們應該做什麼，而是相信如果我們將強大的工具放在他們面前，他們就會創造出有趣而驚人的東西。
我認為這與它所賦予開發者的能力一樣，甚至更具變革性。當你考慮到可能實現的事情時，你不必花十年時間學習編碼才能建立一個應用程式，你不必擁有數百人的龐大團隊和數月數月的時間來建造東西。你可以用小團隊建造，你可以快速建造並快速迭代，而AI正在解鎖世界各個方面的創新。我認為在許多方面，這非常相似，看到它為客戶群體帶來的可能性，真是令人興奮。
然而，當AWS出現時，您是唯一的，所以您獲得了所有的優勢和劣勢，以及一切都是免費的。在AWS時代，有很多關於商品化計算的內容，使其可替代、彈性、便宜——而在AI領域，特別是在訓練方面，感覺上獲勝的抽象概念更多是關於這些垂直整合的超級叢集、非常先進的網路以及軟硬體之間緊密的連結。這對您來說是否是一種驚喜，您現在的看法是——而不是全新的——「我們是這裡唯一的，我們有一種看待大規模計算的特定方式」，而在AI的前幾年，這可能並不完全吻合？
MG：我不知道對我們來說是否不同。我認為不同的是採用的速度令人難以置信地快，我認為這可能讓每個人都感到驚訝。Sam，如果你不同意，可以發表意見，但人們對這些能力的採用速度之快，我認為讓每個人都感到驚訝。
這與我們開始雲端運算時不同，我們花了很多時間解釋為什麼一個賣書的網站會提供您的計算能力，這需要大量的解釋才能說明什麼是雲端運算。有很多人們已經忘記的艱苦工作，但在2006年，人們並沒有理所當然地認為這就是世界計算的發展方向，所以那裡有很多艱苦的工作。
您是否認為現在您也必須做一些解釋，因為很多人都關注訓練時代，而您卻說：「我們正在考慮推論時代」，而這將是不同的，也許您仍然需要再次發揮那些解釋能力？
MG：是的，但人們理解您在談論什麼的速度完全不同。所以，是的，我認為，如果你從人們說「這似乎很酷，而且我有一個很棒的聊天機器人可以和我交談」轉變到「我實際上可以在您的企業中工作」，這需要一些教育，但相對於技術的快速發展速度來說，這也相對較快。
我們將很快進入我們這次訪談的產品，我保證，但Sam——從新創公司生態系統的角度來看，當您回顧時，顯然AWS具有變革性，完全改變了門檻，現在任何人都可以開始。您有種子輪、天使投資人，然後門檻又回到了不需要在PowerPoint上展示伺服器，您可以建立一個應用程式，然後去進行A輪融資或 whatever。那麼，從您的角度來看，與當時的賦能相比，現在的世界有什麼不同或相同之處？
SA：我認為有四個重要的平台賦能新創公司大規模發展的時刻：網際網路、雲端、行動裝置，然後是AI。我當時是成年人的是雲端，在YC [Y Combinator] 的早期——很難誇大這對新創公司意味著多大的改變。在此之前，您有那些新創公司租用託管空間，組裝伺服器並將東西放進去，這是一個極其複雜的事情，您必須籌集大量資金。然後突然之間，儘管雲端發生在YC剛開始之後，我猜是第二年。
我正要問這個——歸根結底，它們比您當時意識到的更加緊密相連，不是嗎？
SA：當時感覺它們非常緊密相連，感覺YC從一開始就在駕馭雲端的浪潮，因為有一些早期的AWS前身。
如果AWS存在，與之前相比，您不需要為啟動一個新創公司投入那麼多資金。
SA：這是一個巨大的賦能變革，也是當時YC聽起來如此瘋狂的原因之一。人們說：「好吧，不可能用幾萬美元資助一家新創公司，這是不可能的，伺服器的成本比這還高」，所以這完全改變了新創公司可以用少量資本做的事情。
新創公司通常在有大的平台轉移時獲勝，您可以以更快的週期時間和更少的資本做事情，這是新創公司擊敗大公司的經典方式，在我職業生涯的早期，我親眼目睹了雲端發生的情況，現在看著公司在AI上建立的東西，感覺方向上非常相似，但正如Matt所說，速度快得驚人。
與雲端相比，大公司採用AI的速度是否更快？
SA：肯定有更多這樣的情況，但我也指的是新創公司收入的增長速度——我最近在YC發表演講，最後問道：「一家好公司在YC結束時的收入預期是多少？」他們說：「嗯，這每個月都在變化，也許我們在批次開始時和結束時會有不同的答案」，而這以前從未發生過。人們能夠在這個新平台上建立規模化業務的速度是我以前從未見過的。
Matt，您基本上是所有新創公司的首選雲端，這是那個時代的巨大優勢。今天是什麼讓您成為首選雲端？因為您想到很多人都在使用OpenAI API，或者您是否覺得：「實際上我們是從一個非常不同的角度進入這個市場的，我們擁有龐大的現有客戶群，他們懇求我們提供AI服務，而我們對Sam所說的這個群體了解較少」？
MG：我認為有幾件事。一是，我們對我們的合作夥伴關係感到非常興奮，我認為這對許多新創公司來說將非常有意義。但今天，即使您去和新創公司談話，大多數規模化的新創公司今天仍然在AWS上擴展，這有很多原因。規模在那裡，可用性在那裡，安全性在那裡，可靠性在那裡，還有其他ISV的合作夥伴生態系統都在AWS，客戶也在AWS。
（笑）無論是否願意，每個人都使用過AWS面板，所以他們已經習慣了。
MG：我們也幫助他們。我們花費大量時間來賦能新創公司，無論是通過信用額度，但不僅僅是信用額度，還有關於如何設置系統、如何思考市場進入策略的建議，以及許多我認為受到許多新創公司讚賞的事情，我們投入大量時間和精力來確保這一點，因為我們真的覺得新創公司是AWS的生命線。從一開始就是如此，就像Sam談論的那樣，而且今天仍然如此，我每季度仍然會去矽谷或其他地方與新創公司直接會面，了解他們在做什麼，確保我們正在構建的東西能夠被他們接受。所以今天爭奪新創公司關注的競爭比20年前更激烈，對我們來說，它仍然和以往一樣重要，我們投入大量時間來確保我們滿足這些新創公司的需求。
說人們直接在OpenAI API上開發，而不是在Azure版本上，更有可能擁有AWS堆疊用於常規計算，然後用OpenAI用於AI，這樣說公平嗎？
MG：我認為這是今天許多新創公司非常普遍的模式，絕對是。
好了，這就引出了我們今天的公告：由OpenAI驅動的Bedrock Managed Agents，我想我說對了。據我理解，這個賣點不僅僅是OpenAI模型可以在AWS上使用——我認為這是不允許的——而是OpenAI的尖端模型被封裝在AWS原生的代理運行環境、身份、權限狀態、日誌記錄、治理和部署中。Sam，這樣說對嗎？
謝謝。這是什麼？請用英文解釋一下。
SA：我認為AI的下一個階段是從您提供一些文本給代理並獲得更多文本回來，甚至您提供大量程式碼並獲得更多程式碼回來，轉變為我們將擁有這些代理在公司內部運行，執行各種不同的工作。
虛擬同事是我聽過的最不糟糕的描述方式之一，但沒有人確切地找到合適的語言，我們正在共同包裝一個新產品，以幫助那些希望構建這類有狀態代理並使其可用的公司。再次強調，我認為我們還不知道世界將如何談論這些、使用這些，但如果你看看[Codex]正在發生的事情，我認為這是一個很好的例子，說明我們可以看到這一切的發展方向。
對於代理真正起作用，運行環境、工具、狀態——正如您所說，對您來說是一個非常重要的詞——記憶、權限、評估有多重要？
SA：很難誇大其重要性。我不再將運行環境和模型視為完全可分離的東西，就像我使用它們的經驗一樣，我非常清楚，當我啟動Codex中的某個東西並為我做了一件驚人的事情時，我並不總是知道。我不知道有多少功勞——
是模型很棒還是運行環境很棒？
運行環境與模型在多大程度上是協同開發的？這種整合發生在哪裡？是在訓練後嗎？是在提示中嗎？是什麼讓這種整合奏效？
SA：兩者都是。它實際上不是預訓練過程的一部分，但我會說你可以看看——這裡有一個更有趣的事情，那就是我們過去已經多次看到這樣的例子，即我們認為非常可分離的東西被越來越多地烘烤進去。就像我們最初考慮的工具調用，現在是我們使用這些模型的一個關鍵部分，這不是我們在訓練過程中深入考慮的事情，隨著時間的推移，我們做了越來越多的事情。
我還會懷疑模型和運行環境會隨著時間的推移而結合得更多，而且我還會預計預訓練和訓練後最終也會隨著時間的推移而結合得更多。說出來很陳詞濫調，但我還是要說，因為我認為這非常非常真實——我們在這個範式的所有方面都還處於非常早期的階段，這仍然像是Homebrew電腦俱樂部的日子，這個行業還有多大的成熟度。
這就是為什麼我認為這很有趣，幾週前我寫過這個，在任何價值鏈中，最終都會出現一個整合點，那就是真正重要的點，這兩部分必須結合起來才能奏效。隨著時間的推移，顯然很多價值會在那裡積累——我的理論是，這種運行環境-模型整合是關鍵點。這符合您的利益，聽起來您也同意。
SA：這符合我的利益，我同意，但我也會更廣泛地說，您關心的是您在Codex中輸入您想要發生的事情，然後它就發生了。
您不關心實現細節。
SA：我不認為您關心。在我們弄清楚這一切的過程中，有太多例子了，我們必須在系統提示級別做一些事情，而後來我們卻不用了。這裡的普遍觀察是，隨著模型的智能越來越高，您在讓它們按照您想要的方式行事方面就有了更多的靈活性，這聽起來像是一個顯而易見的陳述，但它是——
告訴一個10歲的孩子比告訴一個5歲的孩子更容易。
SA：當我回顧我們在GPT-3時代為了從這些模型中榨取任何一點效用所必須做的事情時，現在您永遠不必這樣做了，因為模型當然會理解並開箱即用地做好，這種趨勢可能會持續下去。
MG：我只是想補充一點——我完全同意這一點，我認為當您與客戶交談時，他們對這些系統的期望非常明確，在此次我們共同合作之前，客戶不得不自己將這些東西組合起來，對嗎？他們想要這些模型和代理記住它們協同工作良好，他們想將它們整合到現有系統中，這不僅僅是第三方工具，還有他們自己的工具。他們希望它們了解自己的數據、自己的應用程式和自己的操作環境，而所有這些整合今天至少是由每個客戶自己完成的。
因此，我們共同合作的一部分是共同構建一種新型產品，實際上將這些東西更緊密地結合在一起，以便客戶能夠更容易地實現他們想要實現的目標，其中身份已經內置到該產品中，到您的數據庫進行身份驗證的能力都發生在您的AWS VPC [虛擬私有雲] 中。您可以做許多事情，如果我們在OpenAI API和AWS這邊，這些事情本來是可以做到的，但通過共同構建這個產品，我們讓客戶更容易、更快地獲得價值並在企業環境中實現他們想要實現的目標。
所以您認為您可以在一個通用的運行環境中構建一個功能性的代理，只是難度大得多？您是在讓它更容易嗎？還是說，實際上有些事情如果您沒有將它們綁定在一起，根本就做不到？
然而，每次我看著別人使用我們的模型或試圖設置Matt所說的一些工作時，我都在高興他們印象深刻，感覺這是一項神奇的技術，和為此付出的痛苦和掙扎而抓狂之間搖擺不定，這不僅僅是對開發這些產品的開發者來說如此，即使是使用ChatGPT並看著人們從這裡複製粘貼到那裡，試圖進行複雜的提示集——我知道這將會消失，我為此感到欣慰。它仍然如此早期，如此糟糕。
只是不要取消您與BBEdit的整合，這是我唯一的要求，ChatGPT應用程式中我最喜歡的功能。
SA：A）這些東西太難做了，我們認為如果我們能讓它變得更容易，它將為開發者和企業帶來更多價值，但B）有很多事情您根本無法可靠地完成，我認為通過我們的共同合作，不僅僅是易用性的故事，以及不必自己建立託管空間或類似的東西，我們將共同弄清楚很多新的東西來構建，人們將能夠構建產品和服務，即使付出很多痛苦和掙扎也無法完成。
我實際上想回到關於要構建的東西這一點。但只是快速回到Codex——Codex是一個運行環境和模型，它在本地運行。為什麼現在讓代理在本地運行更容易？
SA：實際上，我們從雲端運行開始，我認為最終您會希望它在雲端運行。
當然。我正在經歷向這個產品的轉變，它在雲端。但您為什麼又回到本地？
SA：您的整個環境都在那裡，您的電腦已經設置好，您的數據也在那裡，您不必考慮——它只是更容易工作，即使它不是最終狀態。但是要達到一個代理在雲端運行的世界，當您——如果您有一個非常密集的任務，或者您需要關閉電腦或其他什麼，您可以將任務轉移到雲端處理，我認為這顯然會很棒。但在短期內，我們能夠提供的易用性顯然是通過使用您的本地環境來實現的。
我有一種思考方式，就像舊式的安全模型，就像城堡和護城河一樣，而您正在轉向零信任的新安全模型，以及所有具有適當權限結構、進行身份驗證以及所有這些零碎的東西，在我看來，運行本地就像是您自己施加的城堡和護城河，一切都在那裡，我只是假設一切都很好，很容易做到。我思考這個問題的方式是，Matt，如果這與您產生共鳴，那麼要讓所有這些組件在生產環境中實際運行，您根本無法在本地完成所有這些，您必須從一開始就在這個環境中操作，這樣想對嗎？
MG：我不知道是否有任何計算環境已經擺脫了客戶端，只是在本地操作有其好處。大多數iPhone應用程式也有本地組件，無論是連接性、延遲還是本地計算或對文件和應用程式的存取，都有原因。正如Sam所說，本地客戶端確實有一個特別之處——它很容易，它運行得非常好，但它受到限制，有其極限。
您無法擴展您的本地筆記本電腦，您只有您擁有的東西，一旦您開始進入企業合同，兩個人之間的共享就變得有點困難——考慮權限，考慮安全邊界就變得有點困難。所以有許多方面，我認為，我不會說本地環境是壞事，它只是不同的東西，我認為您最終會希望將兩者結合起來。
這就是我的問題，因為在雲端時代，您有容器幫助您整合本地和生產環境，但在這種情況下，如果您必須處理代理，正如您所說，比如我是一個虛擬同事或 whatever，如果它們有自己的身份和權限以及所有這些東西，即使是構建它們，您也需要處於正確的環境中，因為您將要部署它，在我看來似乎是這樣。
SA：我認為這裡有很多東西需要弄清楚。舉個例子，如果您是一家公司的員工，您是否希望有一個帳戶來使用某些服務，然後您的代理是否應該使用您的帳戶，或者您的代理是否應該使用另一個帳戶，以便伺服器可以區分哪個是哪個？
SA：正是如此。我懷疑我們實際上想要的是我們還沒有弄清楚的東西，也許是當Ben的代理以Ben的身份登錄時，它使用Ben的帳戶，但它會注意到它是一個代理而不是真正的Ben。我們甚至沒有一個原始的機制來思考這個，但我們可能需要快速弄清楚，我的感覺是，還會有50件類似的事情，隨著代理加入勞動力隊伍並以越來越高的自主性和複雜任務行事，我們對軟體如何工作以及公司內部或更廣泛的網際網路上的訪問控制和權限如何工作的許多思維模式，都將不得不演變。
Matt，您如何看待代理的安全和訪問策略等問題？
MG：是的，我確實認為，當您將更多這些工作負載轉移到雲端時，您可以作為一個中央組織，對其中一些安全部分擁有更多的控制權。而且我確實認為，我們經常與客戶交談，這是他們擔心的事情，他們說：「我喜歡我可以用這些非常強大的模型和代理做什麼的承諾，我如何確保我不會因為搞砸了而導致公司倒閉？」而且存在這種擔憂。
我認為我們可以提供幫助，因為這些都是可以解決的問題，而且我認為，讓一些客戶放心，「嗯，它在VPC內部運行」，您至少可以控制該邊界並知道它有權存取什麼，或者它通過這個閘道，您可以賦予它權限，就像您在您的其餘環境中為它分配角色一樣。這些是我們在過去20年中建立起來的一套非常豐富的功能，所以不僅僅是Y Combinator新創公司，還有全球銀行、醫療機構和世界上所有政府機構都可以使用AWS，並且圍繞它建立了所有這些安全結構，我認為可以幫助我們進一步加速他們利用這項技術並擁有這些安全措施來快速運行。
我認為很多時候，當您在一家公司中，特別是在風險規避的環境中，擁有這些安全護欄，他們會說：「如果它在沙盒中運行，我就很樂意快速前進」，這實際上可以幫助我們的許多客戶將這些技術用於更廣泛的用途。
您談到的許多能力，這些能力是您在20年裡開發出來的，並且您正試圖為代理部署它們，今天通過AgentCore暴露出來。那麼，由OpenAI驅動的Bedrock Managed Agents與Bedrock AgentCore之間的關係是什麼？
MG：我們共同構建的許多東西都是建立在AgentCore的基礎之上的，以便將其中一些組件整合在一起。
所以，有一個超級集在其之上？
MG：AWS團隊和OpenAI團隊一起使用了AgentCore組件和OpenAI模型以及許多這些組件來共同構建這個產品。
AgentCore基本上是我們的原始組件集，就像AWS一樣，如果您想構建自己的代理工作流程，您可以做到。您可以擁有記憶組件，您可以擁有安全的執行環境，您可以擁有權限功能，您可以配置所有這些，並且我們今天有客戶在生產環境中運行它們，並取得了非常酷的成果。
MG：但不是與OpenAI一起，他們今天必須使用不同的模型，這是真的。實際上，這並不完全正確，我們有人在使用OpenAI。
哦，只是調用另一個雲端或 whatever。
MG：他們只是直接調用OpenAI模型。所以我們實際上絕對有客戶今天在使用OpenAI，不是原生集成在Bedrock中，但他們仍然在使用它。這是一個開放的生態系統，您可以調用不同的功能來構建您想要的任何東西，我的賭注是人們將繼續這樣做。我們有開發者，就像Sam的比喻一樣，他們今天仍然喜歡在家裡組裝電腦，即使您不必這樣做，而且即使人們喜歡組裝，我們也認為人們很長一段時間都會自己構建代理，但絕大多數人會想要一種更簡單的方式，他們不想自己配置所有這些組件，這也是我們這次合作推出的一部分。
為了非常清楚地說明，您談到了Bedrock Managed Agents的這種託管體驗，您也可以使用AgentCore並從AWS或其他地方的模型中調用。Sam，這是一個問題，這就是OpenAI在Azure上的情況，您只是直接存取API，這與亞馬遜上的這種託管服務不同，對嗎？
您對此感覺很好，這是否在所有方面都得到了正確的界定，未來不會出現問題？
SA：是的，我認為事情會隨著時間的推移而演變，但我對此作為一個開始感到非常滿意。
這將是AWS的獨家產品嗎？還是您預計會在其他雲端提供類似的託管代理服務？
SA：是的，我們正在與亞馬遜獨家合作，我們對此感到興奮。
這種獨家性有多少是「看，我們正在使用亞馬遜的所有API，當然它只在亞馬遜上」的結果，還是這是託管體驗的整體理念，它不僅僅是「我們正在使用亞馬遜API」，而是「目前這將在亞馬遜上」？
SA：精神上，我們希望這是我們公司之間的聯合努力。
明白了。公關確實說了一些話，這又回到了您之前提到的Matt的觀點，關於您可以調用其他API並自己將所有東西粘合在一起。在這種情況下，客戶數據保留在AWS內，那麼OpenAI到底看到了什麼，這意味著什麼？
MG：這是正確的。所以整個東西都保留在您的VPC內，數據在Bedrock環境內受到保護。
明白了。這將在Bedrock上運行OpenAI模型，這些模型將在Trainium上運行嗎？
MG：它們將通過各種不同的組合——有些將在Trainium上，有些將在GPU上。
這只是時間問題嗎？因為我認為在您幾個月前的公告中——
MG：有些是時間問題和功能問題，我認為我們將會混合使用不同的組件來構建系統，為其不同部分使用正確的基礎設施。但隨著時間的推移，越來越多的將在Trainium上運行。
SA：我們非常期待在Trainium上運行這些模型。
一個快速的問題，關於Trainium的總體問題，Matt。Trainium，這樣想公平嗎，這也是我的想法，所以我想確保我說對了。Trainium——名字非常不幸，因為它實際上將主要用於推論，其首要體現將通過Bedrock這樣的託管服務，客戶甚至不必知道他們正在使用什麼計算，這樣想公平嗎？
MG：首先，我對AWS所有服務的糟糕命名負責。
看，我的口頭網站叫Stratechery，所以我對糟糕的命名感同身受。
SA：我認為Trainium是一個很酷的名字。
它確實是一個很酷的名字，只是感覺它是一個推論晶片，而不是訓練晶片。
MG：是的。但是，無論命名如何，它對於訓練和推論都很有用。而且，這是一個我們非常興奮的晶片，無論是當前一代還是未來，我們認為這將是一項巨大的業務，也是我們共同完成許多事情的真正推動者。
順便說一句，我認為通過GPU，您將通過抽象與許多加速器晶片互動。所以絕大多數客戶也不會直接與GPU互動，除了可能在他們的筆記本電腦上或類似的東西，用於圖形。但是當您與OpenAI交談時，即使它們運行在GPU上，您也不是在與GPU交談，如果您在與Claude交談，您是通過GPU或Trainium或TPU，您不是在與任何這些晶片交談，您是在與介面交談。絕大多數推論都是在一小部分模型上完成的。
所以，無論是5個、10個、20個、100個，都不是數百萬人直接編程到這些東西上，而且這將是未來的常態，因為這些系統非常複雜，它們非常龐大。如果您要訓練一個模型，並不是很多人有足夠的資金去訓練一個模型，也不是很多人有專業知識來管理它。它們是非常複雜的系統，而OpenAI團隊在從龐大的計算叢集中榨取價值方面令人難以置信。但並不是很多人擁有能夠做到這一點的團隊，這與晶片是什麼無關，所以我認為這將適用於所有加速器晶片，老實說。
SA：Ben，我越來越認為我們公司必須做的是成為一個代幣工廠。但客戶關心的是，我們能夠以最低的價格提供最好的智能單位，並提供他們想要的任何數量，以及他們想要的任何容量。
您認為我們在定價方面會堅持下去嗎？定價基於代幣，這在長期來看有意義嗎？
SA：沒有。事實上，就像我們剛發布的模型5.5一樣，有一個有趣的例子，每個代幣的成本遠高於5.4，但它需要極少數的代幣就能得到相同的答案，而您實際上並不關心答案需要多少代幣，您只想完成工作，您再次想要一個價格和您可以擁有的容量。
所以也許我說「代幣工廠」是錯的，但我們就像一個智能工廠之類的。我們只想以最低的價格獲得盡可能多的智能單位，無論是運行更少代幣的大模型，還是運行大量代幣的小模型，無論是GPU還是Trainium還是其他東西，無論我們是否做其他任何我們可以創造性地做的事情，我認為客戶都不關心。
事實上，他們並不真正與之互動。當您將某個東西放入Codex或在SRE [有狀態運行環境] 中構建一種新型代理時，您永遠不必考慮這一點，您應該對您獲得的內容之多以及成本之低感到驚訝。
減少代幣使用量是模型還是運行環境？
SA：這主要是模型，有一點是運行環境。
明白了。Matt，順便問一下，我問了Sam關於獨家性的問題，您是否預計為其他模型提供類似的託管服務？
MG：我們目前專注於與OpenAI合作。我們對我們共同做的事情感到非常興奮，而時間的充裕是漫長的。
時間的充裕是漫長的，我會讓您堅持這個說法。沒關係，我必須問這個問題。
關於客戶，Sam，關於您的觀點，您對此的看法，我很好奇——當人們實際投入生產時，OpenAI的責任在哪裡結束，AWS的責任從哪裡開始？聽起來，如果所有數據都在AWS上並且保留在那裡，並且他們在更高的層級運行，這最終是AWS的責任？這樣想對嗎——從消費者的角度來看，我這樣想對嗎？
MG：是的，我認為這是正確的。當您需要聯繫某人時，您會聯繫AWS支援來幫助您，這是您AWS環境的一部分，您共同構建它，您的AWS帳戶代表將在那裡為您提供幫助。當我們構建它時，我們將引入我們的OpenAI同事來幫助您弄清楚如何最好地利用它或 whatever。在某個時候，如果我們遇到一個我們需要他們幫助的錯誤，我們將把它升級給他們，但AWS將是您互動的前線支援。
Sam，您如何看待這個業務的規模，相對於您的核心API業務？
SA：我希望它會非常龐大，我們正在為此投入大量精力，我們承諾購買大量計算能力，我相信那裡將有大量收入來支持這一點。我越來越多的框架是，在足夠低的價格下，對智能的需求基本上是無限的。
所以它在這方面非常有彈性嗎？您降低價格，需求就上漲？
SA：當然是這樣，但再次強調，您可以降低水的價格，也許您會喝更多的水，也許您每天洗兩次澡而不是一次，那裡有一些彈性，但到某個點您會想，「你知道嗎，我已經有足夠的水了」。
而且，如果必須的話，您無論花多少錢都會買水。
SA：其他公用事業，如果電力便宜，您肯定會使用更多，但如果您將智能視為一種公用事業，我不知道還有什麼其他公用事業，我會想，「我想要更多，只要價格足夠低，我就會使用更多」。
MG：我實際上想說，有趣的是，這在很大程度上適用於計算能力，如果您考慮一下今天的計算週期成本與30年前相比，我甚至不知道便宜了多少個數量級，而且今天的計算機銷售量比以往任何時候都多。
對。人們實際上並不考慮計算成本，至少直到他們達到極高的水平，這是一個實質性的水平，但總體而言，從戰略上講，計算能力是理所當然的。AI要達到人們不再將「我在這裡花了多少錢？」作為首要考量的那一步，還有多長的跑道？
SA：我不認為這是首要的考量。現在，有更多的客戶要求我們，「無論價格如何，您能給我更多嗎？我只需要更多容量，我會付您額外的費用」，而不是與我們爭論價格。
但我確實認為我們將繼續以驚人的速度降低價格，現在也許我們做得越多，想要流動的財富就越多，越多，越多。但我相信我們將能夠繼續大幅降低今天的智能水平的成本——有一件事讓我有些驚訝，我不知道這是否會保持下去，但至少今天總市場需求有多少是在最前沿。
對，關於這一點有很多問題。服務前端非常昂貴，人們可以輕鬆獲得之前的版本，但您說人們無論如何都想使用前端？
MG：我認為這是一個很好的信號，表明您離我們想要達到的目標還很遠，而且還有更多的需求，我真的認為這就像40年前的計算需求一樣，當時一台電腦非常昂貴，而現在它被我們每個人的手機中的力量所黯然失色，我們賣出數十億部這樣的東西。我確實認為這就是AI世界將發生的事情，今天您正在推動，每個人都想使用最前沿的技術，因為那是獲得大量有用工作所必需的，而且每個人都對那裡的能力感到興奮。
我認為隨著時間的推移，您將會擁有多種模型，您將會有一些較小的模型能夠做一些最新的OpenAI模型還無法做到的事情，但它們將會更小、更便宜、更快。您將會有那些試圖治癒癌症和其他事情的超級大模型。但我認為我們仍然處於可能性的早期階段，當您看到如此多的需求和如此多的增長時，當您處於可能性的早期階段時，這對未來充滿了令人興奮的期待。
這裡有沒有一種有點犬儒的觀點，Sam，您有一些客戶說：「我們很樂意使用OpenAI模型，但我們所有的東西都在AWS上，我們不會搬家」。而Matt，您說：「看，我們所有的東西都在AWS上，請您去獲取OpenAI模型」，而這只是滿足了這個需求——而且結果是，因為AWS是最大的，所以這是一個天文數字的需求。這只是最簡單的答案嗎？還是說，您實際上認為您可以提供高度差異化的東西，這也會為你們雙方吸引新客戶？
SA：我們顯然很高興能夠接觸到AWS客戶，而且很多人都喜歡AWS。是的，這是事實。
MG：反之亦然，我們的客戶非常興奮能夠接觸到OpenAI技術。
SA：但我確實認為我們有令人驚嘆的新東西可以一起建造，我希望當人們一年後回顧時，他們談論的最重要的事情不是「哦，終於，您可以通過AWS存取這些模型」，或者 whatever，而是「哇，我們沒意識到這個新產品有多重要」。我認為在模型、運行環境和能力層面，我們已經接近一種全新的計算方式，這將與人們現有的思考方式——「我需要這個模型的API」或whatever——非常不同。
MG：我完全同意，這正是如此。第一部分很棒也很不錯，而第二部分，我認為是我們都非常興奮的。
就此而言，我提到了我想回到這一點，但我有一個理論，可能正確也可能不正確，我很好奇你們的看法，關於要構建的東西。特別是，可能會出現一個真正的中間件或中間層，您在那裡擁有組織內的所有不同數據庫、SaaS應用程式以及所有這些數據片段，這些數據可以跨越事物，您擁有這個代理層/運行環境或運行環境，我猜，坐在上面，中間有一些東西需要構建，而OpenAI Frontier對此有所觸及。這是其中的一部分嗎？還是這是需要構建的東西？或者我完全錯了，我們根本不需要那個？
SA：您完全說對了，我們需要那裡的東西。最近我與客戶，比如大型企業，他們說：「我想要某種代理運行環境，我想要一個管理層，我可以將我的數據連接到代理，同時確保我了解我在代幣上的花費，並進行一些監督，我想要一個工作區」——希望是Codex——「為我的員工提供類似的東西」——而人們所要求的這個包裝變得非常一致，但現在還有很多工作需要去構建所有這些產品。
感覺好像有一個雙重代理層是必要的。有一個代理層來維護