Jalapeño 是 OpenAI 自行研發的客製化推理晶片,能提供更快、更節能的 AI 推理,針對現代模型實現更高的吞吐量和更低的延遲。
科技 70
Jalapeño 首批成果展現 AI 推理的業界領先速度與效率
OpenAI 自行研發的 AI 推理晶片 Jalapeño,已展現出業界領先的速度與效率。此晶片專為現代 AI 模型設計,能提供更快的處理速度、更佳的能源效率、更高的吞吐量以及更低的延遲,有望大幅提升 AI 推理的效能。
值得注意此為 OpenAI 自行研發的 AI 晶片,直接影響 AI 運算效能與成本,具高度關注價值。
原文來源: OpenAI Blog