断网也能用的 AI:Jan 用开源代码守护你的对话隐私
把对话交给云端 AI 的时候,很多人心里都会掠过同一个疑问:这段话、这份文件、这段代码,到底去了哪里?订阅费按月扣,隐私条款年年变,敏感行业的从业者更是从一开始就被挡在门外。本地大模型是解法,可命令行又把大多数人拦在了门外——想要一个既能保护隐私、又不用敲终端的 AI 助手,选择其实非常有限。
Jan 是这个有限名单里最彻底的一个。这款由新加坡团队 Menlo Research 开发的桌面应用,从 2023 年发布起就把全部代码放在了 Apache 2.0 许可证之下:聊天界面、模型管理、API 服务,每一行都公开可查,GitHub 上的星标数已超过四万,累计下载量突破五百万。开源在这里不只是姿态——你可以审查它如何处理数据,也可以确信它没有任何隐瞒的联网行为。

离线是它最硬的底牌。从内置模型库下载好开源模型之后,聊天、文档问答、运行本地服务,全都不再需要网络连接;对话历史以普通文件的形式存在本机磁盘上,推理过程发生在你自己的处理器和显卡里。断网环境下它依然是一个功能完整的 AI 助手,这一点对于网络受限的环境、出差的旅途,或者单纯不想让数据出户的用户,都是实打实的安全感。
体验层面,Jan 把复杂度藏得很深。应用内置模型中心,Llama、Qwen、Gemma、Mistral、DeepSeek 等主流开源模型按硬件适配度标好标签,点一下就下载,下载还能暂停续传;界面上手难度接近普通聊天软件,左侧管理会话,右侧调参数。它也没有把自己锁死在本地:OpenAI、Anthropic、Gemini 等云端服务商的接口可以直接填入,一个窗口里同时容纳本地的私密模型和云端的强力模型,按需切换,互不干扰。

对开发者,它准备了另一副面孔。内置的本地服务器提供与 OpenAI 接口格式兼容的端点,默认监听 1337 端口,现成的工具和脚本改一个地址就能把请求指向本地;MCP 协议的接入让模型可以调用浏览器、代码执行器这类外部工具,走向智能体的用法;2026 年的版本更新节奏也很快,多 Token 预测、模型切换的消息分支、AMD 显卡在 Linux 上的 ROCm 支持陆续落地,最新的版本甚至内置了原生的网页搜索与网页抓取工具,让本地模型也能获取实时信息。
边界同样值得摆在明面上:推理速度与模型能力完全取决于你的硬件,十六 GB 内存是比较现实的起步线,大参数模型需要更强的显卡或更多内存;模型本身的智力水平与顶级云端模型仍有差距,复杂推理任务上差别明显;桌面端之外它暂时没有移动版本;另外它开源的是应用本身,部分增值功能走了可选的付费路线,核心的本地使用则始终免费。

在 AI 越来越像公共基础设施的今天,「数据归谁」这个问题正在被越来越多的人认真对待。Jan 给出的答案简单而彻底:代码公开、模型本地、数据不出门,断网也照常工作。它未必是能力最强的 AI 助手,却可能是你最放心把私密话交给的那一个。
真正的隐私不来自承诺,而来自结构。当代码公开、模型在本地、网线可以拔掉的时候,信任才有了坚硬的地基。