LibreChat: eine selbst betriebene Chat-Schicht macht Modellkosten messbar

Zusammenfassung

Freie Software auf eigener Maschine: ein Fenster für mehrere Modellanbieter, ohne Programmierung zusammengesetzte Agenten, ein abgeschotteter Rechner und MCP-Anbindung, mit sichtbarem Verbrauch je Person.

Empfehlen
Name
LibreChat
Version
0.8.7
Preis
Kostenlos
Open Source
Open Source
Betriebssystem
Web
Aktualisiert
2026-10-28 22:00

Drei oder vier Abonnements für KI-Dienste im Monat bringen drei oder vier getrennte Verläufe, die nichts voneinander wissen. LibreChat geht den anderen Weg: Es verkauft kein Abonnement und betreibt auch kein Modell. Man stellt die Software auf eine Maschine, die man selbst kontrolliert, richtet sie auf die Modellschnittstellen, für die man ohnehin zahlt, und die Rechnung folgt dem tatsächlichen Verbrauch statt einer festen Monatsposition.

Die Ausgangslage kennt fast jeder. Ein bezahlter Tarif für den Assistenten des Alltags, ein zweiter, weil ein anderer Anbieter lange Dokumente besser verarbeitet, ein dritter, weil die Bildfunktion zu brauchbar ist, um sie aufzugeben. Einzeln ist jeder Betrag verkraftbar, zusammen nähern sie sich einem dreistelligen Betrag, und keiner lässt sich kündigen, ohne dass etwas Konkretes verschwindet. Die Gesprächsverläufe bleiben derweil in drei getrennten Kammern.

Das Projekt steht unter der MIT-Lizenz, der Quelltext liegt auf einer öffentlichen Code-Plattform, und es hat rund 43 000 Sterne, mehr als 50 Millionen Abrufe des Container-Abbilds und 400 Beitragende gesammelt. Diese Zahlen haben eine praktische und keine werbliche Bedeutung: Eine selbst betriebene Gesprächsschicht lohnt nur, solange jemand sie nach der Installation weiterpflegt.

Was die Software genau ist, gehört an den Anfang, weil es bestimmt, worauf man sich einlässt. Sie rechnet nicht. Sie ist eine selbst betriebene Vermittlungsschicht um eine Gesprächsoberfläche herum: dahinter eine serverseitige JavaScript-Laufzeit, davor ein Komponenten-Framework, und eine eigene Dokumentdatenbank für Verläufe und Nutzerdaten. Die Zugangsdaten für die Modellseite bringt man selbst mit. Wer gar nicht pro Aufruf zahlen will, kann auch ein Modell auf derselben Maschine anbinden; dann bleibt alles lokal.

Hauptansicht am Rechner, helles Erscheinungsbild

Alle Anbieter in einem Fenster

Die Breite der Anbindung ist der handfesteste Teil des Angebots. Gehostete Dienste der großen Cloud-Anbieter sind abgedeckt, dazu eine lange Liste mittelgroßer Inferenzdienste, Routing-Dienste als Sammelstelle und jeder eigene Endpunkt, der das übliche Format für Chat-Vervollständigung spricht. Im Alltag heißt das: mitten im Verlauf das Modell wechseln. Die erste Hälfte lässt ein Modell den Ansatz skizzieren, die zweite lässt ein anderes den Code schreiben, und der Kontext wandert mit, ohne dass jemand das Problem neu erklärt. Die Oberfläche gibt es in mehr als dreißig Sprachen, gepflegt von der Gemeinschaft.

Für ein Team ändert sich die Rechnung. Statt eines Abonnements pro Kopf wird ein Schlüssel einmal hinterlegt, die ganze Gruppe teilt sich eine Oberfläche, und der Verbrauch je Person ist in der Verwaltung sichtbar. Ratenlimits lassen sich je Modell setzen, Kontingente je Konto zuweisen, und die Kosten verschwimmen nicht mehr zu einer undurchsichtigen Zeile.

Menü der Modell-Endpunkte, an einer Stelle verwaltet

Agenten, Codeausführung, gerenderte Oberflächen

Wäre es nur ein Chatfenster, ließe es sich von einer gehosteten Webseite nicht unterscheiden. Der Unterschied steckt in den Agenten. Man setzt einen Assistenten ohne Programmierung zusammen: Dateibehandlung, Codeausführung und ausgehende API-Aufrufe anhängen, eine Systemanweisung ergänzen, und das Ergebnis ist ein Spezialist für eine Art von Arbeit. Fertige Agenten lassen sich in einer gemeinsamen Galerie veröffentlichen oder benannten Kollegen zuweisen. Eine Ebene tiefer zerlegen Fähigkeiten und Unteragenten eine große Aufgabe in getrennte Teilaufgaben mit eigenem Kontext, damit ein Umweg in einem Strang die Überlegung im anderen nicht verunreinigt.

Der Rechner für Code wird am häufigsten unterschätzt. Er führt Python, JavaScript, TypeScript, Go, C, C++, Java, PHP, Rust und sogar Fortran in einer abgeschotteten Umgebung aus, sodass am eigenen Rechner nichts installiert werden muss. Eine Tabelle hochladen, ein Ergebnis anfordern, die Ausgabe herunterladen: der ganze Kreislauf bleibt in einem Gespräch. Bei heiklen Daten läuft diese Ausführung auf eigener Hardware, und genau das ist oft der eigentliche Grund zu wechseln.

Ergebnis des Code-Rechners im Gesprächsverlauf

Gerenderte Artefakte decken die sichtbare Hälfte ab. Man verlangt eine Komponente, eine Seite oder ein in wenigen Zeilen beschriebenes Ablaufdiagramm, und das Ergebnis erscheint neben dem Gespräch; eine Zeile geändert, und die Änderung ist sofort da. Ein Layout ausprobieren oder ein Diagramm prüfen geht so schneller als der Weg über einen Editor und zurück.

Anbindung an die eigenen Systeme

Auch ein starkes Modell sieht die interne Datenbank nicht. MCP schließt diese Lücke: ein offener Standard, um ein Modell an äußere Werkzeuge zu hängen, und diese Software bindet jeden MCP-Server an. Nach der Einrichtung fragt das Modell Daten ab, ruft interne Endpunkte auf und durchläuft einen Dateibaum; damit antwortet es nicht mehr nur, sondern handelt. Ein Unternehmen hat mehr als dreißig interne MCP-Server angebunden, damit die Belegschaft in normaler Sprache fragt, statt einen Antrag zu stellen.

Ein MCP-Werkzeug wird im Gespräch aufgerufen

Im Alltag entscheiden mehrere kleinere Punkte. Das Gedächtnis behält Vorlieben über Gespräche hinweg, sodass morgens nichts wiederholt werden muss. Die Websuche lässt sich an jedes Modell hängen, und Treffer werden vor dem Eintritt in den Kontext nachsortiert, damit ein Haufen unpassender Seiten die Frage nicht verdrängt. Die Volltextsuche über Nachrichten und Anhänge übernimmt eine eigene Suchmaschine, wodurch ein Archiv aus mehreren hundert Verläufen benutzbar bleibt. Gespräche lassen sich verzweigen, ein Versuch bleibt also ohne Folgen für den Hauptstrang.

Auch die Teamseite wurde nicht auf später verschoben. Die Anmeldung deckt E-Mail mit Passwort, OAuth2, SAML, LDAP und Zwei-Faktor-Codes ab; Verwaltende pflegen Nutzer, Rollen und Rechte im Browser, statt eine Konfigurationsdatei zu ändern und einen Dienst neu zu starten. Verläufe lassen sich per Link teilen sowie aus- und einlesen, was die Übergabe eines Arbeitsablaufs an eine Kollegin zu einem kurzen Gespräch macht.

PunktStand
LizenzMIT; die Software ist frei und ohne Abonnement
Aktuelle stabile Fassung0.8.7, erschienen im Juni 2026
Betriebsformselbst betriebene Web-Anwendung, über Container, Paketverwaltung oder Cluster-Manifeste
Sprachen der Oberflächemehr als dreißig, von der Gemeinschaft übersetzt
Modellquellengehostete Schnittstellen der Anbieter plus ein lokaler Starter
Datenspeichereigene Dokumentdatenbank; Verläufe verlassen den eigenen Server nicht
Teamfunktionenmehrere Nutzer, einheitliche Anmeldung, Kontingente und Ratenlimits

Die Frage nach der Eigentümerschaft verdient eine ehrliche Antwort. Im November 2025 hat ein Anbieter von Echtzeit-Analysedatenbanken die Übernahme des Projekts angekündigt, samt Gründer und ganzem Team. Die Ankündigung war ungewöhnlich deutlich: vollständig offen unter denselben MIT-Bedingungen, bestehende Installationen unberührt. Die Fassungen liefen weiter: 0.8.7 brachte Projekte für Gespräche, eine Anzeige des Kontextverbrauchs und einen gehärteten Rechner, und eine Vorschau der nächsten Fassung testet bereits eine neue Art, Agenten zusammenzustellen.

Die Ansicht auf dem Telefon, dieselben Daten

Eine Schwelle gibt es, nur liegt sie nicht beim Geld. Das ist keine Software, die man installiert und vergisst. Ein Installationspaket für den Schreibtisch wird nicht angeboten, es ist eine Web-Anwendung, die man über einen Browser erreicht, also braucht man einen Server oder eine dauerhaft laufende Maschine und vorab eine Container-Laufzeit. Sicherung und Aktualisierung liegen von da an bei einem selbst. Zurück kommen eine Rechnung, die sich Zeile für Zeile lesen lässt, Daten, die bleiben, wo man sie hingelegt hat, und keine Abhängigkeit von den Produktentscheidungen eines anderen Hauses.

Wer im Monat nur eine Handvoll Fragen stellt, kommt mit den kostenlosen Stufen der gehosteten Assistenten aus; für den ist das hier überdimensioniert. Sobald aber mehrere Abonnements laufen und der Verlauf selbst Wert hat, ist das Angebot ungewöhnlich klar: freie Software, eigene Hardware, Zahlung pro Aufruf. Die Rechnung wechselt von einem festen Monatsbetrag zu einem gemessenen, und diese Rechnung sollte man aufstellen, bevor die nächste Verlängerung ins Haus steht.

LibreChatDownload
Unterstützte Systeme: Web