手元の大きなモデルを試さない理由を尋ねると、返ってくるのは登録でも料金でもなく、必要な機材の一覧であることが多い。表示の記憶が何 GB、表示板はどの等級、まともな独立した板がなければ入口に立てないかのような言い方だ。だが現実には、多くの人の機械はごく普通の事務用の携帯で、表示は本体に組み込まれ、記憶は16 GB、ディスクはありふれた固体のものだ。入口がこの水準まで下りてこなければ、誰にでも使える手元のモデルは標語のままだ。

GPT4All は、その標語を実際に足を踏み入れられる部屋に変えた。2023 年に現れ、きわめてゆるい公開許諾を採り、倉庫に集まった星は七万を超える。普通の人が実際に持っている機材で言語モデルを動かした最初期の道具のひとつだ。設計の中心は今も変わらない。表示板は必須ではなく、処理装置が第一の市民である。量子化された開かれたモデルは普通の処理装置でも動き、8 GB の記憶で七十億規模の小さなモデルを載せられる。表示が本体に組み込まれた携帯も、古い置き型の機械も、対象の内側にある。二大製造元の独立した板を持つ人は、機種を問わない描画の接続口を通じて加速を得られ、自社設計の芯を持つ機械はその製造元の道を行く。どれも無い場合でも、遅くなるだけで使えなくなるわけではない。

導入のあとに覚えることはほとんどない。内蔵の一覧から、大きさと記憶の必要量が添えられたモデルを選び、降り終わればそのまま話し始められる。本当の切り札は LocalDocs で、自分の書類への問いを、細かな細工から一度印を付けるだけの作業に変える。ある綴りを書類の集まりとして指させば、その場で索引が組まれ、以後の問いには最も関わりの深い段落が脈絡として引き出され、答えの下には引いた出所まで並ぶ。書類はどこかの務め先を通らない。PDF も、文書作成の書類も、素の文章も同じように扱える。

内密さについても同じ自制が続く。既定のままならやりとりはこの機械から出ず、利用の記録も取らず、口座の登録も要らない。配布元が用意する資料提供の仕組みはあくまで任意で、印を付けなければ何も送られない。三つの卓上の系統を覆い、新しい版では省電力の芯を持つ携帯の機種にも手が届いている。

コードを書く人も置き去りにされない。よく使われる言語の包みを入れれば、二行で手元のモデルをスクリプトから呼べる。コンテナの仕組みを使った手元の務めは、大きな預かりの務め先と同じ要求の形を受け取る接続口を開くので、既にある道具の列は住所をひとつ書き換えるだけで手元の計算に向く。応用の中には、モデルの書いた短いコードをその場で走らせる、囲い込まれた解釈役も入っている。

弱いところも同じ調子で書いておきたい。処理装置での計算には天井があり、板の無い機械では文字を生む速さは足りる程度で、大きめのモデルを載せるには待つ覚悟がいる。選り抜きの一覧の更新はこのところ鈍く、最新の開かれたモデルはありふれたモデルの書類の形で自分で持ち込むことになる。手元のモデルの賢さは預かりの旗艦より正直に低く、難しい推論ではそれが表に出る。書類が多いと、控えめな機材では索引を組むのに時間がかかり、脈絡の設定を上げすぎると不安定にもなる。

この界隈では道具が強くなるほど、入口はいつの間にか高くなる。GPT4All の値打ちは、いちばん下の段を守り続けていることにある。板は要らず、口座も要らず、命令の列も要らない。普通の機械と数 GB のモデルの書類があれば、網を切ったまま自分の書類と話ができる。初めて手元の AI を試す人にとって、ここは終わりではないが、途中で投げ出しにくい出発点だ。

技術が広まるのは、いちばん強い入口からではなく、最も軽い入口からだ。表示板が必要条件の一覧から消えた日、手元の AI はようやく全員のものになった。