手元のモデルを試したい人にとって、最初の関門は機材ではなく端末であることが多い。手引きを開けば、黒地に白の命令の列が目に入る。設定値を一つ打ち間違えれば途中で止まる。預かりの務め先は楽だが、会話の資料を上げる必要があり、費用は量に応じ、網が切れれば動かなくなる。図の窓の中で、流れを見るように手元のモデルを使いたい。その願いに合う道具が長らく欠けていた。

この机の道具は、まさにその状況のために作られた。2023 年に小さな班が公開し、探す、降ろす、読み込む、話す、外に出すという一連の流れをひとつの図の窓に収めた。内蔵の一覧は公開のモデル保管庫につながり、パラメータの規模、仕事の種類、道具の呼び出しに対応するか、そして表示板の記憶に載るかで絞り込める。選んで一度押せば降りてくる。降ろしたモデルはすぐ会話の窓で使え、配置は預かりの製品とほとんど同じだ。違うのは計算が自分の機材の上で起きること、そして会話の中身がこの機械から出ないことだけ。

好かれるのは細かい気配り

どのモデルの上にカーソルを置いても、そのモデルが表示板の記憶をどれだけ使うかが示される。載るかどうかを勘で決めなくてよい。載らない分はつまみで本体の記憶に振り分けられ、モデルはそのまま動く。遅くはなるが動く。三つの机の系統を覆い、新しい自社設計のチップでは専用の仕組みが共有の記憶を余すところなく使う。七十億から八十億のパラメータのモデルなら、一秒に三十から五十の単位を生み出す速さで、会話として十分に滑らかだ。

ただの会話の殻ではない。道具の中で手元の務めを立ち上げられ、ありふれた要求の形式に合う接続口を出せる。既定では 1234 番のポートで待ち受けるので、預かりのモデル向けに書いたコードは住所を手元の務めに替えるだけで網の外でも動く。新しい版では別の広く使われる形式の接続口も加わった。文書への問いもそのままだ。PDF や覚え書きの束を会話の窓に放り込めば、検索も生成も手元で完結し、扱いに気を使う資料を第三者が見ることはない。

いじるのが好きな人は MCP サーバーをつなぎ、手元のモデルに外部の道具を呼ばせられる。ただし今のところ設定は手作業が多く、滑らかとは言い難い。

網の外が硬い境界

網につながずに動くことは、頁の務めとこれを分ける硬い線だ。モデルを一度降ろしてしまえば、会話も文書への問いも手元の務めの実行も網を要さない。公式の説明も、これらの中心の機能は線を抜いた状態でもそのまま働くと明記している。

値段の構えも気前がよい。個人の使用も仕事での使用も無償で、定額も機能の壁もない。商いでの使用も 2025 年の半ばから開かれた。2026 年の版を出す間隔も速い。複数の表示板にまたがる並列の計算、投機的な復号、他の機械の実体につなぐ LM Link、さらには電話と平板に載る持ち歩きの Locally まで、半年のうちに相次いで登場した。

言っておくべき境目

道具そのものは源を閉じたソフトウェアで、コードを検めて確かめたい人には敷居になる。資源の使用は命令の列だけの道具より重く、大きなモデルの取得は数ギガバイトから始まるので、ディスクも記憶も実際に応える。Linux の利用者には図の版がなく、画面を持たない llmster の常駐役を使うしかない。そして開かれた重みのモデルしか動かせない。閉じた最先端のモデルが示す上限は、手元の推論が避けられない現実だ。

手元のモデルの敷居とは、結局のところ、散らばったモデルの書類と推論の枠組みと設定値の山を、普通の人が開こうと思う窓ひとつにまとめることだった。この道具がしているのはまさにそれで、図の面ひとつにモデル選びから会話までの流れを収め、資料は手元に残り、網が切れても仕事が続く。手元の AI を試したいと思いながら端末に追い返されたことのある人にとって、今いちばん滑らかな入口だ。

進んだ技術を身近にするのは、深さを削ることではなく、要らない刃を収めることだ。この道具は端末をいじるのが好きな人に残し、窓をすべての人に渡す。