-
從搜尋框長成任務工作台,天工的形狀變了
搜尋如今只是其中一個入口:全能助手接下一段文字描述的任務,自己挑技能或專家來執行,可以排定時間,也能接進聊天工具,讓事情無人值守地跑完。
-
搜尋結果直接是一份帶來源的提綱,這是 Metaso 的做法
沒有廣告,直達結果。三檔深度任選,範圍橫跨全網、文庫、學術、圖片、影片與播客,回來的答案分節排列,每個結論旁都掛著來源角標。
-
只在你上傳的資料裡作答,NotebookLM 還能把它們變成一集播客
把 PDF、網站、影片或錄音丟進去,每個回答都留在這批材料裡,並附上點得回原文的行內引用。同一批來源還能重新整理成學習指南、簡報、心智圖,或兩位主持人對談的音訊摘要。
-
LocalAI:後端按需拉取,沒有顯卡也能先跑起來
一個執行檔、一套相容端點:把用戶端指過來,程式碼一行不動,模型就回到自己機器上。引擎只在真的需要時才拉下來,每個功能都有一條能在處理器上跑的路,再加一台機器就是更多容量。
-
vLLM:把顯示記憶體當記憶體來管,吞吐量翻幾倍
把鍵值快取切成區塊而不是整塊預留,記憶體利用率從三、四成拉到九成以上,同一張卡能同時服務兩到四倍的請求——這就是展示品與線上服務之間的差別。
-
Msty:本機與雲端模型放在同一個視窗裡
同一扇窗裡養著兩套引擎,點一下就讓開放模型跑起來;12 家以上的雲端供應商可以填自己的金鑰接進來,對話可以中途換模型,也可以拆成並排窗格,把同一個問題問兩次。
-
AnythingLLM:把私有 AI 工作台裝進桌面,資料不出機
把 PDF、文書檔與表格拖進工作區,就得到一位讀過你全部資料的助手,每則回答都附引用;模型、向量庫與儲存預設全部跑在這台機器上。
-
llama.cpp:純處理器也能推理,本機部署的最後一道保險
以純 C 寫成、不帶任何依賴,它定下了讓量化模型小到能塞進普通筆電的檔案格式,也是好幾款熟悉桌面工具安靜踩著的那一層。
-
GPT4All:沒有顯卡也能在自己電腦上跑本機模型
不必獨立顯卡、不必帳號、不必碰終端:量化過的開放模型在普通處理器上就能跑,把一個資料夾指定為資料集合之後,跟自己的資料對話全程不出這台機器。
-
Jan:斷網照樣能對話的開源本機助手
對話視窗、模型管理、本機服務的每一行程式碼都攤在寬鬆的開放許可之下,於是網線拔掉照樣能聊,而隱私這件事不必靠信任,靠的是讀得到的原始碼。
-
LM Studio:把本機模型做得跟託管助手一樣順手
不必開終端、不必背參數:視窗裡按參數規模與顯示卡裝不裝得下篩模型,點一下就下載,對話框的手感和託管助手差不多,而對話內容從不離開這台機器。
-
Ollama:一行指令,把開源模型接進日常工作流
它是執行環境而不是聊天程式:一行指令就把開源模型拉下來跑起來,本機端點講的是通用請求格式,你手上任何腳本或編輯器外掛都能指向它,完全不必碰外網。
-
NextChat:五 MB 的客戶端,把你付費的模型全收進一個窗
約五 MB 的客戶端,把你本來就在付費的模型收進同一個視窗,對話留在瀏覽器本機,六個端都能跑;它自己不收錢,費用直接付給模型供應商。
-
LibreChat:自己架一層對話介面,把模型帳單改成按用量計費
軟體免費、機器自備:一個視窗接上多家模型服務,不寫程式就能組出代理,還有隔離的程式執行環境與 MCP 連接,每個人的用量在後台看得見,不再糊成一筆固定訂閱。
-
騰訊元寶電腦版:選一段字它就出現,微信裡的東西直接丟進去
一個產品、兩個引擎,在對話框頂端就能切換,不必退出當前對話重開。從通訊軟體收到的檔案與文章可以直接讀,在螢幕上選中任何一段文字,面板就出現在游標旁邊,而不是要你換視窗。
-
第 1 / 2 页