把私有文档喂给云端 AI 之前，很多人都会犹豫一秒：合同、论文、会议纪要、客户资料，这些内容一旦上传，就不再完全受自己控制。AnythingLLM 给出的答案是把这些环节整体搬回本地——由 Y Combinator 孵化的 Mintplex Labs 开发的开源项目，采用约束最少的 MIT 许可证，GitHub 上已聚集超过 66,000 颗星标，最新稳定版 v1.16.1 于 2026 年 8 月底发布，提供 Windows、macOS 与 Linux 桌面客户端，也可以用 Docker 在服务器上自托管给整个团队用。

它的组织核心是"工作区"。每个工作区是一个自成一体的环境：文档、对话历史、模型选择、提示词设置都归属其中，客户合同一个区、内部研究一个区、个人笔记一个区，彼此隔离互不串味，AI 的回答因此始终围绕当前上下文展开。文档的进入方式没有任何仪式感——直接拖进去即可，PDF、Word、CSV、电子表格、代码仓库乃至网页链接都在接收范围内，系统自动完成解析、切分与向量化，一篇十几页的 PDF 几秒钟就能完成索引。此后的一切就像和一位读过你全部资料的助手聊天：提问、追问、让它总结或对比两个章节，而每条回答都带有指向具体文档段落的引用标注，答案是否可靠、出处在哪里一目了然。

"数据不出机"在这套流程里不是一句口号，而是默认架构。桌面端开箱即为模型、嵌入模型、向量数据库与存储配好了本地默认值：模型可以直接用内置的 Ollama 引擎一键下载运行，向量检索用内置的 LanceDB，全过程无需注册任何账号，也不产生遥测数据——断网状态下依然可以完整地与文档对话。当然，架构并不封闭：它同时支持 30 家以上的模型提供商，OpenAI、Anthropic、Google 等云端服务都可在设置里切换，甚至可以为不同工作区分配不同模型，用轻量本地模型处理日常私密任务，把需要更强推理能力的任务交给云端模型，边界由用户自己划定。

能力上限不止于文档问答。在聊天框里唤起内置 Agent，它可以执行联网搜索、抓取网页、查询数据库、操作文件等工具调用任务；可视化 Agent Flows 支持用拖拽方式编排多步骤自动化流程并定时执行；项目原生兼容 MCP 协议，既能在工作区里挂载外部 MCP 工具，也能把 AnythingLLM 自身作为 MCP 服务器暴露给 Claude 等客户端使用。社区 hubs 里还有持续增长的提示词、技能与流程可供取用。对开发者，它提供覆盖工作区管理、文档操作与对话交互的完整 REST API，聊天组件也能嵌入自有产品。

需要留有余地的地方同样存在：桌面端基于 Electron，资源占用不算轻；RAG 回答的质量高度依赖所接入模型的能力与文档本身的整洁程度，排版混乱的扫描件依然难以处理；多用户权限管理主要面向 Docker 自托管版本，个人桌面版是单用户形态。但放在"本地优先"这个前提下权衡，它大概是当下完成度最高的选择之一：不用拼装聊天界面、向量库与嵌入模型，一个安装包就把私有 AI 工作台装进了桌面端，剩下的只是把你手边的文档拖进去。