에이전트 프레임워크는 최근 2년 사이 빠르게 쏟아졌지만, 대부분은 먼저 '스스로 일하는 에이전트'를 포장해 주고 그 껍데기 안에서 고치게 한다. 이것은 반대로 간다. 스스로를 저수준 오케스트레이션 프레임워크이자 런타임이라 부르고, 제어권을 개발자에게 돌려준다. 첫 화면은 설계가 택한 맞바꿈을 그대로 적는다. 제어와 자율 사이의 균형, 복잡한 작업을 안정적으로 처리해야 하는 에이전트를 위해.

네 가지가 각각 한 장을 차지한다

사람의 개입은 선택이지만 일급 요소로 다뤄진다. 요점에 체크포인트를 넣으면 에이전트가 움직이기 전에 사람이 검토하고 품질 검사를 더하고 승인할 수 있다. 사이트의 표현은 담백하다. 에이전트에 체크포인트를 붙여 이끌고 승인한다. 제어 흐름은 세 가지 형태다. 단일 에이전트, 다중 에이전트, 계층형이며 셋 다 같은 저수준 기본 요소를 쓴다. 구조가 요구에 따라 자라고, 아키텍처를 바꿀 때 프레임워크를 갈아치우지 않아도 된다. 메모리는 내장이다. 대화 기록이 저장되고 맥락이 세션을 넘어 이어지며, 공식 문서는 단기 작업 메모리와 장기 저장층으로 나눠 설명한다. 스트리밍도 일급이다. 단어 단위 출력이 추론과 동작을 실시간으로 드러내며, 이는 사실 위에 얹는 화면을 위한 인터페이스다.

두 종류의 단계, 하나의 그래프

가장 중요한 설계는 섞을 수 있게 한 것이다. 같은 그래프 안에서 안정성과 감사가 필요한 구간은 결정론적 수기 로직으로 쓰고, 즉흥성이 필요한 구간은 모델에 맡긴다. 뻔해 보이지만 공학적으로 차이가 크다. 전자동과 전스크립트의 이분법이 아니라, 어느 구간에 모델이 들어갈지를 구간별로 정하게 된다. 공식 문서는 장기 실행 상태 기반 에이전트를 만들고 관리하고 배포하기 위한 저수준 프레임워크이자 런타임이라고 설명하며, 대형 금융과 모빌리티, 은행 조직에서 채택되었다고 밝힌다. 의존 경계도 분명하다. 모델 하나와 도구 하나로 시작할 수 있고, 문서는 연동을 위해 같은 진영의 부품 생태계를 빌리지만, 이 프레임워크를 쓰는 데 그 생태계를 끌어올 필요는 없다.

시작은 정말 가볍다. 설치는 패키지 하나이고, 공식 hello world는 상태 그래프와 메시지 상태로 노드를 만들고 시작점과 끝점을 이어 컴파일한 뒤 호출하면 모델 메시지 하나를 돌려준다. 그 짧은 코드에 세계관이 다 들어 있다. 노드는 단계, 엣지는 전이, 그 사이를 상태가 흐른다.

재개와 승인은 운영을 위한 기능

문서가 꼽는 이점 중 앞의 세 가지는 모두 '운영에 들어간 뒤에 만나는' 문제다. 영속 실행은 실패 지점에서 복귀시켜 작업을 처음부터 다시 돌리지 않게 한다. 사람의 개입은 어느 시점에든 상태를 확인하고 바꿀 수 있게 한다. 통합 메모리는 단기 작업 메모리와 장기 저장을 분리해 다룬다. 그 위에 벤더의 별도 제품을 통한 디버깅과 관측성, 장기 실행 워크플로를 위한 배포가 얹힌다. 목차만 봐도 무게중심이 보인다. 영속 체크포인트, 스토리지, 내결함성, 이벤트 스트림, 인터럽트, 타임 트래블, 서브그래프, 배포. 거의 모든 장이 '길게 돌면 어떻게 할까'에 답한다.

유래 설명은 솔직하다. 고전적인 그래프 처리와 분산 데이터 흐름 설계에서 착안했고, 공개 인터페이스는 널리 쓰이는 그래프 라이브러리를 참고했으며, 널리 쓰이는 에이전트 부품 생태계를 만든 팀이 개발했지만 그것 없이도 쓸 수 있다.

누구에게 맞는가

세 부류다. 장기 실행 에이전트가 필요한 개발 팀. 실패 후 재개, 승인 관문, 들여다볼 수 있는 상태가 나중에 덧대는 패치가 아니라 기본 요소로 있다. 제어의 결을 중시하는 팀. 단일 블랙박스 인지 아키텍처에 갇히기를 거부하고, 어디에 모델을 쓰고 어디에 고정 로직을 쓸지 구간별로 정하고 싶다. 그리고 이미 그 부품 생태계 안에 있는 사람. 관측성, 평가, 배포에 연결할 제품이 갖춰져 있다.

주의할 점도 몇 가지. 저수준 프레임워크라 추상이 적은 만큼 코드양이 늘어난다. 빠르게 시연용 에이전트를 만들려면 고수준 래퍼에서 시작하는 편이 수월하고, 프로젝트 자체의 README도 그런 상위 프로젝트를 가리킨다. 관측성과 배포는 벤더의 클라우드 쪽에 있어, 직접 구축하면 그 구멍은 스스로 메워야 한다. 라이선스는 저장소가 MIT이고, 숫자는 약 41.8k 스타, 7.1k 포크, 561개 릴리스, 301명 기여자, 44K개 프로젝트에서 사용이다. 여기에 웹 스크립트 언어용 동등 버전도 있다.

저수준 프레임워크의 가치는 코드를 덜 쓰게 해 주는 데 있지 않다. 스무 번째 단계에서 막혔을 때 손이 닿는 곳에 훅이 있다는 데 있다.