大型語言模型（LLM）的重要性不容忽視，不能僅由大型科技公司獨佔。雖然目前前沿模型與能在裝置上運行的模型之間存在能力差距，但本地模型的效能日新月異，一旦跨越特定能力門檻，便足以應付大多數用途，並帶來完整的隱私與自主控制。
基於這些假設，我們一直在開發 Ensu，這是 Ente 的離線 LLM 應用程式。今天，我們正式發布第一版。
在本文的其餘部分，我們將解釋為何我們相信這些假設成立，我們正在做什麼，以及您如何參與其中。
大型語言模型（LLM）的重要性不容忽視，不能僅由大型科技公司獨佔。我們先前已深入探討過此議題，請參閱此處與此處。
簡而言之，這些文章從兩個角度切入：
如果您是討厭 LLM 的人，您仍能在清晰的思考時刻認識到，LLM 是一種無法被輕易消除的技術。
如果您是樂於與 LLM 互動的人，您會意識到缺乏隱私以及對中心化供應商的高度依賴（任意封鎖、內容塑造、無法攜帶的記憶）。
在兩種情況下，也很明顯 LLM 可能被用來大規模操縱人們。因此，我們不能任由大型科技公司控制它們。
問題在於，大型中心化模型與能在裝置上離線運行的小型模型之間存在能力差距。
但我們是問題解決者，這不是我們第一次嘗試。當我們剛開始開發 Ente Photos 時，似乎無法想像我們能在您的裝置上實現人臉辨識、人物分群和自然語言圖像搜尋。人們稱我們瘋了。
歷經多年努力，我們做到了。我們的用戶每天都在享受這些功能。所有操作都在裝置本地進行，並透過端對端加密同步到您所有的裝置。完整的隱私、完整的控制，且不犧牲便利性；科技為人服務，而非作為監控工具。
同樣地，雖然我們長期以來一直渴望在本地 LLM 方面有所作為，但直到最近，較小的模型才開始能在消費級裝置上可行地運行。我們現在認為我們可以採取可行的步驟。
這就是第二個假設的切入點。雖然較小的去中心化模型每天都在進步，但較大的中心化模型也在進步。然而，我們認為差距並非重點——重點在於一個門檻，以及模型的用途。一旦較小的模型跨越了特定的門檻，它們就足以為人們的生活帶來樂趣、效用和便利。
今天我們發布 Ensu。這是一款類似 ChatGPT 的應用程式，完全在您的裝置上運行，提供完整的隱私且零成本。很快，您也可以透過連接您的 Ente 帳戶（或自行託管）來備份和同步您跨裝置的聊天記錄，並享有完整的端對端加密。
這不是開始，也不是結束。這只是一個檢查點。
Ensu 目前是 Ente Labs 的一個專案。目前，我們只想迭代產品及其方向，暫時不考慮定價和穩定性。
為了設定正確的預期，它目前不如 ChatGPT 或 Claude Code 強大。儘管如此，它已經相當有趣了！以下是我們用它做的一些事情：
反思那些我們不敢放入非私密 LLM 的想法。
談論書籍（Ensu 目前沒有網路搜尋功能，但您會驚訝於它對《薄伽陀歌》或《聖經》等經典的了解程度）。
在沒有網路的飛行途中與它閒聊。
該應用程式是開源的，適用於 iOS、Android、macOS、Linux 和 Windows。我們還有一個實驗性的網頁版。也支援圖像附件。核心邏輯是用 Rust 編寫的，對於每個平台，我們都有使用相同共享邏輯的原生（行動裝置）和 Tauri（桌面）應用程式。
我們已經實現了（可選的）端對端加密同步和備份，以便您可以跨裝置存取您的聊天記錄。這使用了您已有的 Ente 帳戶，並且可以像 Ente Photos 一樣自行託管。然而，在最後一刻，我們決定在今天發布的檢查點中不啟用同步。這就是下一節的故事。
我們將 Ensu 視為一段旅程。有一個明確的目的地——一個私密、個人化的 LLM，帶有加密同步——但通往目的地的道路卻是模糊的。我們可以朝多個方向發展：
與其作為通用聊天，不如將 Ensu 定位為一個更專業的介面，例如一個單一、永無止境的筆記本，您不斷地在上面書寫，而 LLM 提供建議、評論、提醒、背景資訊、替代方案、觀點、引言。可以說，這是一個第二大腦。
一個更實用的方法，例如 Android Launcher，其中 LLM 是人們已經習慣的現有互動背後的實現細節。
您的代理，在您的手機上運行。無需設定、無需管理、無需手動備份。一個與您一同成長、記住您、您的選擇、管理您的任務，並擁有長期記憶和個性的 LLM。
目前，我們將等待一段時間的迴響，然後再採取下一步行動。由於這些未來的方向可能會改變持久化架構，我們延遲了啟用同步。
當同步到來時，您現有的本地聊天記錄也將被備份和同步。