エージェント向けフレームワークはこの二年で一気に増えたが、そのほとんどはまず「自分で働くエージェント」を包んで渡し、あとはその殻の中で直させる。これは逆を行く。自らを低層の編成フレームワーク兼ランタイムと名乗り、制御を開発者に返す。トップページは、その設計が取った取引をそのまま書く。制御と自律のあいだで釣り合いを取る、複雑な仕事を確実にこなすエージェントのために、と。

四つの話題がそれぞれ一章を持つ

人による関与は任意でありながら、一級の要素として扱われる。要所にチェックポイントを置けば、エージェントが動く前に人が確認し、品質チェックを足し、承認できる。サイトの言い方は淡々としている。エージェントにチェックポイントを足し、導き、承認する、と。制御フローは三つの形を取る。単一エージェント、複数エージェント、階層型で、どれも同じ低層の原語を使う。つまり構造は要件に合わせて伸び、アーキテクチャを変えるたびにフレームワークを入れ替える必要はない。メモリは内蔵で、会話履歴が保存され、文脈がセッションをまたいで続く。公式ドキュメントは短期の作業メモリと長期の保存層に分けて説明する。ストリーミングも一級で、語単位の出力が推論と動作をリアルタイムに露出する。これは実質、上に載せる画面のためのインターフェースだ。

二種類の手順を、一つのグラフに

最も効いている設計は、混ぜることを許した点だ。同じグラフの中で、安定と監査が要る部分は決定論的な手書きロジックとして書き、臨機応変が要る部分はモデルに任せる。当たり前に聞こえて、工学としては差が大きい。全自動と全スクリプトの二択ではなくなり、どの区間でモデルを使うかを区間ごとに決めることになる。公式ドキュメントは、長期稼働する状態持ちエージェントの構築、管理、配備のための低層フレームワーク兼ランタイムと説明し、大手の金融、モビリティ、銀行の組織で採用されているとする。依存の境界も明確だ。モデル一つとツール一つで始められ、ドキュメントは連携のために同門の部品群を借りるが、このフレームワークの利用にその部品群を引き込む必要はない。

始めるのは確かに軽い。インストールはパッケージ一つで、公式の hello world は状態グラフとメッセージ状態でノードを組み、始点と終点をつなぎ、コンパイルして呼ぶとモデルのメッセージが一つ返る。この短いコードに世界観が全部入っている。ノードは手順、エッジは遷移、その間を状態が流れる。

再開と承認は、本番のための機能

ドキュメントが挙げる利点のうち、最初の三つはいずれも「本番に出てから出会う」問題だ。永続実行は失敗した地点から復帰させ、仕事を最初からやり直させない。人による関与は任意の時点で状態を確認し変更できる。統合メモリは短期の作業メモリと長期の保存を分けて扱う。その上に、ベンダーの別製品によるデバッグと可観測性、長期稼働ワークフロー向けの配備が乗る。目次を見るだけでも力点が分かる。永続チェックポイント、ストレージ、耐障害、イベントストリーム、中断、タイムトラベル、サブグラフ、配備。ほぼどの章も「長く走ったらどうするか」に答えている。

由来の説明は率直だ。古典的なグラフ処理と分散データフローの設計に着想を得て、公開インターフェースはよく知られたグラフライブラリを参考にし、広く使われるエージェント部品の生態系を作るチームが開発したが、それなしでも使える。

誰に向くのか

三種類。長期稼働のエージェントが要る開発チーム。失敗後の再開、承認の関所、検査できる状態が、後から足す継ぎ当てではなく原語としてある。制御の粒度にこだわるチーム。単一の黒箱アーキテクチャに閉じ込められるのを嫌い、どこでモデルを使い、どこで固定ロジックを使うかを区間ごとに決めたい。そして、すでにその部品の生態系の中にいる人。可観測性、評価、配備につながる製品が揃っている。

気をつける点もいくつか。低層フレームワークなので、抽象が少ないぶんコード量は増える。動くデモを素早く作りたいなら、高水準のラッパーから入るほうが楽で、プロジェクト自身の README もそうした上位のプロジェクトを指している。可観測性と配備はベンダーのクラウド側にあり、自前で組むならその穴は自分で埋めることになる。ライセンスはリポジトリが MIT で、数字はおよそ 41.8k スター、7.1k フォーク、561 リリース、301 人のコントリビューター、44K のプロジェクトで使用。加えて Web のスクリプト言語向けに同等の版がある。

低層フレームワークの価値は、書くコードが減ることではない。手順二十で詰まったとき、手の届くところにフックがあることだ。