-
LocalAI:仕組みは要るだけ降りてくる、板が無くても動く
実行する書類がひとつと、互換の接続口がひとつ。相手をそちらへ向ければ、コードは一行も動かずにモデルが手元へ戻る。仕組みは要るまで降りてこず、どの機能にも処理装置で走る道がある。
-
vLLM:表示の記憶を記憶のように扱い、さばく量を数倍にする
鍵と値のキャッシュをまとめて取っておくのをやめ、区画に切って分けるだけで、記憶の使われ方は三、四割から九割を超える。同じ板で二倍から四倍の問いを同時に受けられる。
-
AnythingLLM:私的な作業台を机の上に置き、資料を外に出さない
PDF や文書作成の書類や表を区画に引きずり込めば、自分の資料をすべて読んだ助手が手に入る。どの答えにも引用が付き、モデルも保管も置き場所も既定でこの機械の上にある。
-
llama.cpp:板の無い機械でも動く、手元配置の最後の砦
素の C で書かれ、依存を一切持たない。量子化したモデルを普通の携帯に載る大きさにした書類の形を定め、いくつもの見慣れた卓上の道具が黙ってその上に立っている。
-
GPT4All:表示板の無い機械でも手元でモデルを動かす
独立した板も、口座も、命令の列も要らない。量子化された開かれたモデルは普通の処理装置で動き、ある綴りを指させば自分の書類が問い合わせ先になる。中身はこの機械から出ない。
-
Jan:網を抜いても話せる、源の読める手元の助手
会話の窓も、モデルの管理も、手元の務めも、一行ずつ公開許諾のもとに置かれている。だから網を抜いても話は続き、内密の約束を信じる必要もない。
-
Ollama:命令一行で、開かれたモデルを日々の仕事に組み込む
会話の応用ではなく実行の土台だ。命令一行で開かれたモデルを取ってきて動かし、手元の接続口はありふれた要求の形式を話す。手持ちのスクリプトもエディタの拡張もそのまま向けられる。
-
NextChat:五メガのクライアントが、料金を払っているモデルを一つの窓に収める
およそ五メガのクライアントが、すでに料金を払っているモデルを一つの窓に集め、会話は閲覧ソフトの手元に残し、六つの環境で動く。本体は無償で、費用は提供元へ直接払う。
-
LibreChat:会話の層を自前で置けば、モデルの費用は使った分だけになる
ソフト自体は無償で、機械は自分で用意する。ひとつの窓から複数のモデル提供元につなぎ、コードを書かずにエージェントを組み、隔離された実行環境と MCP の接続を使える。誰がどれだけ使ったかは管理画面で見える。
-
Cherry Studio:複数のモデルを一つの窓に、その隣に知識ベースを
Cherry Studio は AI 対話と知識ベースのためのクロスプラットフォームなデスクトップクライアントです。同じ問いを複数のモデルに並べて投げ、手持ちの資料をローカルの知識ベースに置き、画像生成や翻訳も同じ窓で扱えます。
-
第 1 / 1 页