Bonsai 27B 提供 1 位元和三元數兩種變體,是首款能夠在手機上運行的 27B 級模型。它將多步驟推理、工具調用、代理工作流程和多模態理解帶到本地設備上。
三元數版本的 Bonsai 27B 檔案大小為 5.9GB,並針對筆記型電腦進行了優化,而 1 位元版本的 Bonsai 27B 僅 3.9GB,足夠在 iPhone 上運行。
PrismML 發布了 Bonsai 27B 模型,提供 1 位元和三元數兩種變體,是首款能在手機上運行的 27B 級模型。此模型支援多步驟推理、工具調用、代理工作流程及多模態理解,能帶到本地設備上。三元數版本的 Bonsai 27B 檔案大小為 5.9GB,針對筆記型電腦優化;而 1 位元版本的 Bonsai 27B 僅 3.9GB,足夠在 iPhone 上運行。
值得注意此模型在手機上實現複雜 AI 功能,對行動裝置 AI 應用有顯著影響。
Bonsai 27B 提供 1 位元和三元數兩種變體,是首款能夠在手機上運行的 27B 級模型。它將多步驟推理、工具調用、代理工作流程和多模態理解帶到本地設備上。
三元數版本的 Bonsai 27B 檔案大小為 5.9GB,並針對筆記型電腦進行了優化,而 1 位元版本的 Bonsai 27B 僅 3.9GB,足夠在 iPhone 上運行。