ModCon 今日登場！觀看直播。
Modular 官方 AI 代理技能
部署生成式 AI 模型，使用我們的雲端或您自己的雲端
了解推理的運作方式，從基礎到生產環境
四年前，Modular 做了一個大膽的預測：AI 不會永遠只運行在單一類型的矽晶片上，軟體堆疊需要為異質硬體和日益複雜的 AI 工作負載世界進行重新架構。
在今天早上的 ModCon 主題演講中，我們展示了這個預測的成果。Modular 平台現已進入生產就緒階段，每分鐘處理數十億個 token，並為企業級部署提供支援。我們正將更多平台開放給生態系統，將其擴展到全新的硬體類別，並與主要的產業夥伴攜手同行。
具體來說，Modular 和 Qualcomm 宣布了以下事項：
異質運算時代來臨，並擁有單一、開放的軟體平台。
上週，我們宣布 Mojo 達到 1.0 版本，為開發者提供了穩定、生產就緒的基礎，讓他們可以長期建構。除了多項新功能外，1.0 版本最重要的部分是穩定性保證：您今天編寫的程式碼不會在您不知情的情況下失效。
今天，我們更進一步。整個 Mojo 語言現在已根據不受限制的 Apache 2.0 授權開源，這意味著編譯器和所有工具鏈都是完全開源的。您可以擴展該語言，將其引入新平台，並在其上建構您想要的任何應用程式。這延續了我們自 2024 年推出 Mojo 標準函式庫和 2025 年推出 MAX 核心以來逐步開放堆疊的進程，並且將持續下去。若想深入了解 Mojo 並貢獻，請造訪 mojolang.org。
Mojo 多年來一直支援 macOS 和 Linux，Windows 開發者則可透過 WSL 使用。原生 Windows 支援一直是我們從開發者那裡收到的最常見請求之一。
數百萬開發者每天都在 Windows 上進行開發，涵蓋各種應用程式和工作負載。我們相信 Mojo 可以在該生態系統中產生重大影響。以正確的方式將 Mojo 引入 Windows 需要對該平台有深入的專業知識，這就是為什麼我們很高興 Microsoft Windows 團隊看到了與我們相同的機會——並且我們正在共同努力實現這一目標。
– Logan Iyer, CVP, Windows Platform + Developer
Modular Cloud 是將完整的 Modular 堆疊整合為生產服務的地方。它讓開發者能夠直接存取 Modular 業界領先的推理效能，同時抽象化在異質基礎設施上部署、優化和操作模型的複雜性。
Modular Cloud 已在 console.modular.com 上全面開放，透過共享端點和專用部署，在 Modular 堆疊上提供熱門的開源模型。共享端點與 OpenAI 相容，採用按 token 計價的模式，而專用部署則運行在我們的運算資源或您自己的資源上，使用隔離的保留執行個體。
在過去幾個月裡，Modular Cloud 以 ModelRun 的名稱默默地為 OpenRouter 提供流量，其端點在生產流量的延遲和吞吐量方面，持續排名在平台的前列或接近前列。獨立的基準測試公司 Artificial Analysis 也證實了這一點。
MiniMax 是 Modular Cloud 的旗艦企業客戶，在專用的 Modular 部署上運行 M3，每分鐘處理數十億個 token 的生產流量。
高效地大規模處理 M3 是一個獨特的系統挑戰。它結合了 100 萬個 token 的上下文視窗、原生多模態以及 MiniMax Sparse Attention (MSA)——一種新穎的稀疏注意力架構，可選擇性地關注相關的 KV 區塊，隨著上下文的擴展而減少所需的計算量。
提供最先進的效能需要對整個堆疊進行優化：在 MAX 中原生實作 M3，建構和調整專用的 MSA 核心，並圍繞 MiniMax 的實際流量模式優化部署。
Modular Cloud 已經在 NVIDIA 和 AMD GPU 上處理生產工作負載。今天，我們將硬體支援範圍從 GPU 擴展到自訂 AI 加速器——這是對平台可移植性更嚴峻的考驗。
我們已新增對 AWS Trainium、Google TPU、Qualcomm Cloud AI 100 Ultra 和 Qualcomm Dragonfly 的支援。每個都透過相同的 Modular 平台運行，具有相同的模型 API、服務工作流程、程式語言和核心抽象。開發者可以編寫一次模型，並將其應用於完全不同的硬體架構，而無需圍繞它重建軟體堆疊。
同樣重要的是，我們以傳統上啟用新 AI 硬體所需工程工作量的極小部分，就完成了這些平台的建置——工程工作量減少了 10 倍以上。
在接下來的幾個月裡，我們將把這些新的硬體平台投入生產，並透過 Modular Cloud 提供。
AI 硬體的創新正在加速，但只有當開發者能夠使用時，優秀的硬體才有意義。然而，這種創新很大一部分仍然被鎖定在為單一架構編寫的軟體堆疊中。業界需要一個共同的軟體基礎：一次編寫模型，即可觸及所有加速器；根據效能和經濟效益選擇硬體，而不是根據哪個堆疊碰巧支援它；讓供應商在他們的矽晶片優勢上競爭。這就是我們正在建構的 Modular 平台。
加入 Qualcomm 強化了這一目標。Modular 平台將繼續支援和優化廣泛的硬體，包括與 Qualcomm Technologies 平台直接競爭的硬體。生態系統面前的機會遠大於任何單一供應商的路線圖，而一個基礎只有在每個人都能站在上面時才有效。
為了建構這個基礎，我們正在推動兩項重要計畫：
我們正在開放 MAX。我們正在演進 MAX 的授權模式並擴大原始碼存取權限，以便開發者、企業、硬體供應商和合作夥伴能夠在平台上建構、擴展並貢獻回饋。
我們正在努力為生態系統建立一個聯盟計畫。我們正朝著一個涵蓋硬體供應商、模型提供者、雲端公司和資料中心營運商的產業聯盟計畫努力。目標是讓合作夥伴在整合 MAX、為其平台進行優化以及協助塑造 Modular 平台未來的發展方向方面，扮演直接的角色。
HTEC 已經展示了實際情況。他們的工程師僅用幾個月的時間和少數工程師就自行在 Modular 平台上啟用了 Google TPU 支援，而我們僅扮演支援角色，而非主導整合。這清楚地驗證了我們正在建構的內容：一個生態系統可以獨立擴展的基礎。
其他新創硬體供應商也看到了市場上的相同需求。d-Matrix 就是其中之一：
所有開始使用開源 Mojo 1.0 所需的內容，現已在 mojolang.org 上提供。Modular Cloud 已在 console.modular.com 上線。如果您今天在舊金山參加 ModCon，下午的技術講座將深入探討以上所有內容。
Qualcomm 完成對 Modular 的收購
立即註冊我們的雲端平台即可輕鬆上手。
瀏覽我們的模型目錄，或部署您自己的自訂模型
ModCon 2026：開放原始碼、開放雲端、開放矽晶片
獲取最新新聞、公告和更新：