LibreChat:自己架一層對話介面,把模型帳單改成按用量計費
摘要
軟體免費、機器自備:一個視窗接上多家模型服務,不寫程式就能組出代理,還有隔離的程式執行環境與 MCP 連接,每個人的用量在後台看得見,不再糊成一筆固定訂閱。
推薦- 軟體名稱
- LibreChat
- 版本
- 0.8.7
- 收費
- 免費
- 開源
- 開源
- 作業系統
- Web
- 更新時間
- 2026-10-28 22:00
每個月替三四個 AI 平台繳訂閱費,換回來的是三份互不相通的對話紀錄。LibreChat 走的是另一條路:它不賣訂閱,也不跑模型,你把軟體放在自己可控的機器上,指向本來就在付費的模型介面,帳單就從固定月費變成按實際呼叫量計算。
開場的處境不難辨認。一個平台每天在用,另一個平台的長文處理更順手,第三個的繪圖能力捨不得放掉;單筆都還算能接受,加起來已經是三位數,而且哪一筆退掉都會少掉一項具體能力。與此同時,三邊的對話紀錄各自關在自己的圍牆裡。
專案本身採用 MIT 授權,原始碼放在公開的程式碼託管平台上,累積了約四萬三千顆星、五千多萬次容器映像下載與四百位貢獻者。這些數字有意義,但意義是實務上的:自架一層對話介面只有在這一層持續有人維護時才划算。
它究竟是什麼,值得先講清楚,因為這決定了你要付出什麼。它不做推論。它是一層自架的編排層加上一個對話介面:後端是伺服器端的 JavaScript 執行環境,前端是元件化的框架,會話與使用者紀錄存在自有的資料庫裡。模型那一端的憑證由你提供;如果連按 token 計費都想省掉,它也能接上同一台機器上執行的模型載入器,全部留在本機。

一個視窗裡換遍各家模型
接入廣度是這套方案最實在的部分。大型雲端廠商提供的託管服務都在名單裡,一批中型推論服務商、聚合路由服務,以及任何講通用對話補全格式的自訂端點,同樣可以直接填進去。落到日常使用,就是在同一個會話裡隨時換模型:前半段讓一個模型理思路,後半段換另一個寫程式,上下文不必重新交代。介面本身支援三十種以上語言,翻譯由社群持續跟進。
對一個團隊來說,這筆帳的形狀會變。不必再按人頭發起訂閱,金鑰設定一次,全組共用同一套介面,誰用了多少在後台看得見。速率限制可以按模型分別設定,額度能按帳號分配,成本不再糊成一筆說不清的支出。

代理、程式執行與即時渲染
如果只是個聊天視窗,它跟託管的網頁版沒有差別。拉開距離的是代理:不寫程式就能組出自己的助手,掛上檔案處理、程式執行與對外 API 呼叫,再配一段系統提示,一個專職某類工作的分身就成了。做得多還能發布到共用畫廊,或指派給指定的同事。再往下一層是技能與子代理,把複雜的活拆成獨立子任務、各自持有上下文,一條線上的岔路不會污染另一條的判斷。
程式解譯器是最常被低估的一項。Python、JavaScript、TypeScript、Go、C、C++、Java、PHP、Rust 甚至 Fortran 都能在裡面執行,環境是隔離的沙箱,本機不必預裝任何執行環境。上傳一份表格、請它算出結果、再把輸出下載回來,整個流程在一個會話裡就走完。資料敏感的場合,這段執行發生在你自己的硬體上。

即時渲染處理的是看得見的那一半。要一個元件、一個頁面,或用幾行文字描述的流程圖,結果直接渲染在對話旁邊;改一行,變化立刻出現。用來試版面、核對一張圖,比把程式碼搬進編輯器再搬回來快得多。
接上你原本就在跑的系統
模型再強也看不見你自家的資料庫。MCP 補的就是這一塊:它是把模型接到外部工具的開放標準,而這套軟體能接上任意 MCP 伺服器。設定好之後,模型可以查資料、呼叫內部端點、讀取目錄結構,從只會回答問題變成能動手做事。有公司把內部三十多個 MCP 伺服器接進來,讓全公司用自然語言問資料。

日常使用裡還有幾個決定成敗的細節。記憶會把偏好跨會話保留,不必每天早上重申一次;聯網搜尋可以掛到任何模型上,結果先做重排序再進上下文,避免一堆無關網頁把問題擠出去;訊息與附件的全文檢索交給專門的搜尋引擎,幾百個歷史會話也翻得動;會話可以分支,實驗性的提問不會污染主線。
面向團隊的部分也沒有留到以後再說。身分驗證涵蓋電子郵件加密碼、OAuth2、SAML、LDAP 與雙因素驗證;管理員在瀏覽器裡就能管理使用者、角色與權限,不必改設定檔再重啟服務。會話能產生分享連結,也能匯出匯入,把一套工作流程交給同事只要幾句話。
| 項目 | 情況 |
| 授權 | MIT,軟體本身免費,沒有訂閱 |
| 目前穩定版本 | 0.8.7,2026 年 6 月推出 |
| 部署形態 | 自架的網頁應用,可用容器、套件管理器或叢集清單 |
| 介面語言 | 三十種以上,社群翻譯 |
| 模型來源 | 各家託管 API 加上本機模型載入器 |
| 資料儲存 | 自有資料庫,會話不出你的伺服器 |
| 團隊能力 | 多使用者、單一簽入、額度與速率限制 |
歸屬問題也該老實回答。2025 年 11 月,一家做即時分析資料庫的廠商宣布收購這個專案,創辦人與團隊一併加入。公告寫得異常明確:專案維持百分之百開源、沿用原本的 MIT 授權,既有部署不受影響。後續版本照常推進:0.8.7 帶來會話專案分類、上下文用量儀表與加固過的解譯器,下一個版本的預覽已經在測試新的代理組裝方式。

門檻當然有,只是不在錢上。這不是裝完就忘的軟體:官方沒有提供桌面安裝包,本質上是要用瀏覽器打開的網頁應用,你得自己準備一台伺服器或常年開機的機器,容器執行環境也要先備好。資料備份與版本升級從那天起落在自己頭上。換回來的是看得懂的帳單、留得住位置的資料,以及不再被任何一家平台的產品決策牽著走。
如果一個月只問幾個問題,託管助手的免費額度大概就夠了,這套方案純屬過度設計。但當手上同時養著好幾份訂閱、而對話紀錄本身有價值時,條件就很清楚:軟體免費、硬體自備、按呼叫付費。帳單從固定月費變成計量計價,值得在下一次續訂前先算一遍。