以您的硬體所允許的最快速度運行開源模型
Magnitude 是一款開源的代理程式推理引擎，能針對您的確切硬體進行自我優化。它會在您的裝置上編譯並調整其核心運算，因此開源模型運行速度比 llama.cpp 快上 2 倍。一鍵即可連接您已在使用的代理程式（Pi、OpenCode、Hermes、Codex 等）。支援 Apple Silicon、NVIDIA、AMD 或僅 CPU 的裝置。
下載適用於 macOS、Windows 或 Linux 的 Magnitude
⭐ 幫助我們接觸更多開發者並壯大 Magnitude 社群。請為此儲存庫加星標！
桌面應用程式包含 magnitude CLI。無需另外安裝。
一款開源的推理引擎，能針對您的硬體進行自我優化。它以桌面應用程式的形式提供，運行開源模型並將其連接到您已在使用的代理程式。
他們為廣泛的硬體類別預先編譯了核心運算。Magnitude 在模型運行前，會在您的實際裝置上編譯並調整其核心運算，使其完美契合您的確切晶片。請參閱與 llama.cpp 的效能比較。
任何 Apple Silicon、NVIDIA 或 AMD GPU，或僅 CPU。沒有固定的最低要求。較小的機器運行較小的模型，更多的記憶體則能運行較大的模型。
完整列表請參閱 magnitude.dev/models。我們為最受歡迎的開源權重模型系列編寫了優化的核心運算，這也是我們超越通用型引擎的原因。
一鍵連接 Pi、OpenCode、Hermes、OpenClaw、Codex、Claude Code、Oh My Pi 和 Cline。任何其他模型則透過 OpenAI 相容的 API 運行。
是的。提示、檔案和模型都保留在您的機器上。模型下載後無需網路連線。
