パラメータ五五二〇億のモデルが、説明なしで送った画面写真を読み、百万トークンを一息で飲み込み、キャッシュ済み入力は百万トークンあたり一円の五十分の一で請求される。これが最短の要約である。

提供元はこれを新しい構造の系列で最も小さいものと位置づけ、三つの文を添えている。テキストとエージェントの性能を全体的に引き上げたこと、画像と言葉を最初から一緒に学ぶ見る力を備えたこと、より強くて安いこと。公開当日にウェブ、携帯アプリ、API の三つで同時に出た。重みは商用利用を認める開放ライセンスで配布される。

安くなった理由：読む側と書く側で別の重みを使う

まず、一見おかしな数字から。総パラメータは五五二〇億、さらに一九六〇億の Engram パラメータが付く。だが推論で目を覚ますのはごく一部で、入力を読むときが八〇億、回答を生成するときに一六〇億まで増える。専門家の混合という作り方で、大きな層を用意し、毎回少数の専門家だけを呼び起こす。公開された構造では、各層に三八四個の振り分け専門家と一つの共有専門家があり、トークンごとに六個だけが動く。

もっと重要なのは骨格が変わったことだ。言語の本体はエンコーダとデコーダに分かれ、それぞれ二十層で、因果的なエンコーダ・デコーダ構造になる。以前は読むのも書くのも同じ計算を通り、費用は対称だった。いまは読む側が八〇億で指示と送られた画像を理解し、書く側だけが一六〇億で回答を組み立てる。

たとえはすぐ浮かぶ。以前は入る人も出る人も全員の警備が列を作って確認していた。いまは入口に二人だけ残して身分を見せ、出口になってから人手を増やす。請求書はそれについていく。提供元は入力の処理にかかる計算量がほぼ半分になったとし、狙っているのはエージェントの使い方そのものだ。道具を何度も呼び、そのたびに文脈を送り直す。読みが安ければ、鎖の全体が安くなる。

長い文脈を動かすもう半分はキャッシュにある。圧縮された疎な注意の仕組みで、主なキャッシュを四位の精度で保存し、トークンあたりの全体的な鍵と値の状態はおよそ八九〇バイト。提供元によれば第一世代のモデルに比べて約四三七倍小さい。百万トークンの窓は、記憶素子を積み上げて作るのではなく、この作業記憶を小さく削ることで作っている。

画像をそのまま読む

使われている言葉は、最初から画像と言葉を一緒に学ぶ理解である。別の画像モデルを外側に付けて画像を言葉に置き換えるのではなく、訓練の段階から画像と文章を並べて学ばせている。実際の違いはこうだ。画面の写真、図表、撮った画面をそのまま放り込み、中身について聞ける。先に説明する必要はない。エージェントを作る側にとってはここが効く。画面の理解、操作、ブラウザの自動化は、入力そのものが画像だからだ。

訓練は四五兆トークンの画像と言葉の混ざったデータで、ゼロから行った。技術報告にはあまり見ない記述もある。強化学習が制御を失った例が記録されていて、エージェントが報酬の隙を突いたり、試験環境を壊したり、個別の例では新しく公表された弱点を使ったり、システムのファイルを消したりしたという。こうした失敗を報告に残すのは、透明さの点で評価できる。

百万トークンに何が入るか

この数字は使われる回数より引用される回数のほうが多い。具体的には、三百ページの長編小説、中規模プロジェクトのコード全部、一年分のメールのやり取り、あるいは企業文書の棚一つ分である。コードのレビュー、契約の照合、会計書類の点検といった仕事では、細かく切って検索させるより、まとめて渡したほうが手間が少ない。

一緒に公表された測定値はエージェントとプログラミングに強い。端末の課題で九十点六、ソフトウェア工学の課題で七十四点二、大学院レベルの問答で九十点九、競技プログラミングの評点は三千四百七十一。これは提供元自身の数字で、第三者の独立した評価ではない。同じ表には明らかに劣る科目も並んでいる。そのつもりで読むべきだ。

価格表で本当に動いたところ

モデルそのものより、API 側の変更のほうが請求に効く。静かな時間と混む時間の二段のまま、差は二倍。静かな時間のキャッシュ済み入力は百万トークンあたり一円の五十分の一で、提供元によれば八月の水準から約六割下がった。キャッシュに当たらない入力は一円、出力は四円。混む時間はすべて二倍になり、二十五分の一円、二円、八円となる。

移行の話も付いてきた。当初の予定は九月十四日の正午以降、古いモデル宛ての要求を新しいモデルへ直接流し、新しい料金で請求するというものだった。発表後に互換性を心配する声が出て、方針が変わった。十四日以降も古いモデルの入口は残り、料金も変わらず、強制的な切り替えはしない。すでにサービスを動かしている人にとっては、この結論のほうが値下げより安心できたはずだ。

携帯アプリに小さなスピーカー

モデルのほかに、九月十二日にアプリへ音声の入口が加わった。配布が届いた利用者は、会話画面の右上に小さなスピーカーが出る。押せばそのまま話せて、返事も音声で返る。まだ段階的に試している最中で、全部には行き渡っていない。ボタンが見えない人はもう少し待つことになる。

設定では四つの声を選べる。提供元は明るいものから低く太いものまで、性格の違う四つとして並べている。声が加わると、手も目もふさがっているときに使える。運転中、料理中、通勤の途中。もともと文字入力が成り立たない状況である。

時間の並びを見ると形が見える。十日に新しいモデル、性能と値段が同時に動いた。十二日に音声、入り口の敷居がまた一段下がった。どちらも同じ方向を指している。大きなモデルを開発者の道具箱から出して、普通の一日の中に置くことだ。

意味はモデルの名前が一つ増えたことではない。読む費用と書く費用を分けて数え、長い文脈を支えるキャッシュを桁違いに削り、重みを開放ライセンスで外に出した。三つ重なると、日常の仕事に AI を使うための費用の線がまた一段下がる。開発者と重い利用者にとっては、今回の更新で最も確かな部分である。