LibreChat: 대화 계층을 직접 두면 모델 비용이 쓴 만큼만 된다
요약
소프트웨어는 무료이고 서버는 직접 마련한다. 한 창에서 여러 모델 서비스를 연결하고, 코드 없이 에이전트를 조립하며, 격리된 실행 환경과 MCP 연결을 쓴다. 사용량은 관리 화면에서 보인다.
추천- 이름
- LibreChat
- 버전
- 0.8.7
- 요금
- 무료
- 오픈소스
- 오픈소스
- 운영체제
- Web
- 공식 사이트
- https://www.librechat.ai
- 업데이트
- 2026-10-28 22:00
한 달에 서너 개의 인공지능 정액제를 내면 서로 통하지 않는 서너 개의 대화 기록이 남는다. LibreChat 은 다른 길을 간다. 정액제를 팔지 않고, 모델도 돌리지 않는다. 직접 관리하는 기계에 소프트웨어를 올리고 이미 돈을 내고 있는 모델 연결 지점을 향하게 하면, 청구서는 고정 월액이 아니라 실제 호출량을 따라가기 시작한다.
출발점의 상황은 익숙하다. 매일 쓰는 도우미에 하나, 긴 문서 처리가 더 나은 다른 제공처에 또 하나, 그림 결과가 아까워 세 번째. 하나씩 보면 감당할 만하지만 합치면 세 자리에 이르고, 무엇을 해지해도 구체적인 능력 하나가 사라진다. 그동안 대화 기록은 세 개의 칸에 갇혀 있다.
이 프로젝트는 MIT 조건으로 공개되어 있고, 원본은 공개 코드 보관소에 있으며, 약 사만 삼천 개의 별, 오천만 회를 넘는 컨테이너 이미지 내려받기, 사백 명의 기여자를 모았다. 이 숫자는 광고가 아니라 실무의 의미를 지닌다. 대화 계층을 직접 두는 일은 설치 뒤에도 손질이 계속될 때만 남는 장사다.
이것이 무엇인지는 먼저 밝혀 두는 편이 좋다. 무엇을 떠안는지가 거기서 갈리기 때문이다. 추론은 하지 않는다. 직접 운영하는 편성 계층과 대화 화면이고, 뒤에는 서버 쪽 자바스크립트 실행 환경, 앞에는 부품화된 틀, 그리고 대화와 사용자 기록을 담는 자체 문서 데이터베이스를 갖춘다. 모델 쪽 자격 증명은 직접 마련한다. 호출마다 내는 돈마저 아끼고 싶다면 같은 기계에서 도는 모델 적재기를 붙일 수 있고, 그러면 모든 것이 손안에서 끝난다.

한 창에서 여러 제공처의 모델을 갈아 쓴다
연결의 폭이 이 방식에서 가장 구체적인 부분이다. 대형 클라우드 제공처의 맡김 서비스가 명단에 있고, 중간 규모의 추론 제공처, 중계 역할을 하는 서비스, 그리고 흔한 대화 완성 형식을 쓰는 독자적 연결 지점도 그대로 적어 넣을 수 있다. 일상에서는 같은 대화 도중에 모델을 바꾸는 일이 된다. 앞부분은 한 모델에게 흐름을 세우게 하고 뒷부분은 다른 모델에게 코드를 쓰게 하되, 앞뒤 맥락을 다시 설명하지 않아도 된다. 화면 자체는 서른 개가 넘는 언어를 지원하고 번역은 공동체가 계속 손본다.
팀으로 쓰면 셈의 모양이 달라진다. 사람 수만큼 정액제를 만드는 대신 열쇠를 한 번만 설정하고 팀 전체가 같은 화면을 나눠 쓰며, 누가 얼마나 썼는지는 관리 화면에서 보인다. 속도 상한은 모델별로 정할 수 있고 할당량은 계정별로 나눠 줄 수 있어, 비용이 한 줄의 불투명한 지출로 녹아 버리지 않는다.

에이전트, 코드 실행, 그 자리에서의 그리기
그저 대화 창이라면 맡김 서비스의 페이지와 구별되지 않는다. 차이는 에이전트에서 생긴다. 코드를 쓰지 않고 자기 도우미를 조립하고, 문서 다루기와 코드 실행, 외부 API 호출을 붙이고 체계 지시를 한 줄 더하면 어떤 종류의 일을 전문으로 맡는 분신이 된다. 많이 만들면 공용 진열대에 공개하거나 지목한 동료에게 나눠 줄 수 있다. 한 층 아래에서는 기능과 하위 에이전트가 큰 일을 독립된 작은 작업으로 쪼개 각자 맥락을 가지므로, 한 줄기의 우회가 다른 줄기의 판단을 흐리지 않는다.
코드 실행기는 가장 자주 과소평가되는 기능이다. 파이썬, 자바스크립트, 타입스크립트, 고, C, C++, 자바, PHP, 러스트, 심지어 포트란까지 격리된 모래상자 안에서 돌아가므로 내 기계에 아무것도 설치할 필요가 없다. 표를 하나 올리고 결과를 청하고 출력을 내려받으면 그 한 바퀴가 대화 안에서 끝난다. 다루기 민감한 자료라면 이 실행은 내 장비 위에서 일어난다. 실제로 옮겨 오는 이유가 여기인 경우가 많다.

그 자리에서의 그리기는 눈에 보이는 절반을 맡는다. 부품 하나, 페이지 하나, 또는 몇 줄의 글로 설명한 흐름도를 청하면 결과가 대화 옆에 바로 그려진다. 한 줄을 고치면 변화가 곧바로 나타난다. 배치를 시험하거나 그림을 확인하는 일은 코드를 편집기로 옮겼다 되돌리는 것보다 빠르다.
이미 돌리고 있는 체계에 붙인다
모델이 아무리 강해도 회사 안의 데이터베이스는 보이지 않는다. 그 틈을 메우는 것이 MCP 다. 모델을 외부 도구에 잇는 공개 약속이고, 이 소프트웨어는 어떤 MCP 서버든 붙일 수 있다. 설정이 끝나면 모델은 자료를 조회하고 내부 연결 지점을 부르고 기록 나무를 훑는다. 답만 하는 존재에서 손을 쓰는 존재로 바뀐다는 뜻이다. 한 회사는 사내의 서른 개가 넘는 MCP 서버를 붙여, 직원이 신청서를 쓰는 대신 평범한 말로 물을 수 있게 했다.

매일의 사용을 가르는 작은 장치도 있다. 기억은 선호를 대화를 넘어 붙들어 두므로 아침마다 같은 설명을 되풀이하지 않아도 된다. 웹 검색은 어떤 모델에도 붙일 수 있고 결과는 맥락에 들어가기 전에 다시 정렬되므로, 무관한 페이지 더미가 질문을 밀어내지 않는다. 메시지와 첨부의 전문 검색은 전용 검색 엔진이 맡아 수백 건의 기록도 훑을 수 있다. 대화는 갈래를 칠 수 있어 시험용 질문이 본줄을 더럽히지 않는다.
팀을 향한 부분도 나중으로 미루지 않았다. 신원 확인은 전자 우편과 암호, OAuth2, SAML, LDAP, 그리고 두 단계 부호까지 덮는다. 관리자는 설정 파일을 고치고 서비스를 다시 띄우는 대신 브라우저에서 사용자와 역할과 권한을 다룬다. 대화는 공유 링크를 만들 수 있고 내보내기와 들여오기도 되어, 업무 흐름을 동료에게 넘기는 일이 몇 마디로 끝난다.
| 항목 | 상황 |
| 라이선스 | MIT. 소프트웨어 자체는 무료이고 정액제가 없다 |
| 현재 안정판 | 0.8.7, 2026 년 6 월 공개 |
| 배치 형태 | 직접 운영하는 웹 응용. 컨테이너, 꾸러미 관리자, 군집 명세로 설치 |
| 화면 언어 | 서른 개가 넘는다. 공동체가 번역한다 |
| 모델 출처 | 각 사의 맡김 API 와 손안의 모델 적재기 |
| 기록 보관 | 자체 문서 데이터베이스. 대화는 내 서버 밖으로 나가지 않는다 |
| 팀 기능 | 여러 사용자, 통합 로그인, 할당량과 속도 상한 |
소유 문제에도 솔직히 답해 두자. 2025 년 11 월, 실시간으로 분석하는 데이터베이스를 만드는 회사가 이 프로젝트의 인수를 발표했고 창립자와 팀이 그대로 합류했다. 발표는 이례적으로 분명했다. 완전히 공개된 상태를 유지하고 원래의 MIT 조건을 이어 가며 이미 있는 배치는 영향을 받지 않는다고 밝혔다. 판은 그 뒤로도 나아갔다. 0.8.7 은 대화 프로젝트 나누기, 맥락 사용량 계기, 단단하게 다진 실행기를 가져왔고, 다음 판의 미리보기에서는 에이전트를 새로 조립하는 방식이 이미 시험되고 있다.

문턱은 있다. 다만 돈이 아니다. 설치하고 잊는 종류의 소프트웨어가 아니고, 책상용 설치 꾸러미가 제공되지 않으며, 본질은 브라우저로 여는 웹 응용이라 서버나 늘 켜 둔 기계를 직접 마련하고 컨테이너 실행 환경도 미리 갖춰야 한다. 자료 백업과 판 올리기는 그날부터 내 몫이 된다. 대신 돌아오는 것은 줄마다 읽히는 청구서, 둔 자리에서 움직이지 않는 자료, 그리고 다른 회사의 제품 결정에 끌려가지 않는 자리다.
한 달에 몇 번 묻는 정도라면 맡김 서비스 도우미의 무료 한도로 충분하고 이 구성은 과하다. 그러나 정액제를 여러 개 끼고 있고 기록 자체에 값이 있다면 조건은 분명하다. 소프트웨어는 무료, 장비는 자체, 호출당 지불. 청구서는 고정 월액에서 계량으로 옮겨 간다. 다음 갱신 안내가 오기 전에 이 셈을 한 번 해 볼 값이 있다.