Wer einmal ein großes Modell zu Hause laufen ließ, kennt dieselbe Lage. Das Modell arbeitet zufrieden auf der Maschine in der Ecke, und sobald ein Familienmitglied oder eine Kollegin es benutzen will, steht da nur eine nackte Kommandozeile oder ein Kästchen, das nebenbei entstanden ist. Einen ordentlichen gemeinsamen Arbeitsplatz für KI einzurichten, ohne die Daten einem gehosteten Dienst zu übergeben, ist genau die Lücke, die dieses Projekt füllt.

Der Anfang war bescheiden. Es begann als Oberfläche für einen bestimmten lokalen Modellserver, bekam im Januar 2024 seinen heutigen Namen, und von Beginn an war die Aufgabe, diesem Server eine brauchbare grafische Schicht zu geben. Nach mehreren schnellen Runden war der Anspruch über das Wort Oberfläche hinausgewachsen. Die offizielle Beschreibung lautet: eine selbst betriebene Plattform für KI, erweiterbar, funktionsdicht und vollständig ohne Netz lauffähig. Man kann sie auf einen lokalen Modellserver richten oder die Adresse einer beliebigen passenden Schnittstelle einsetzen, und Modelle großer Anbieter ebenso wie die einer Inferenzmaschine auf der eigenen Grafikkarte erscheinen im selben Fenster. Ein Hintergrund, beliebige Anbieter, das ist der Charakter der Sache von Anfang an.

Aus einer Chat-Oberfläche wird etwas, das man betreibt

Die Einrichtung folgt derselben Logik: einmal aufstellen, überall nutzen. Ein einziger Befehl für den Container bringt in deutlich unter einer Minute eine vollständige Instanz hoch; eine Paketverwaltung setzt sie in eine vorhandene Python-Umgebung; es gibt sogar einen offiziellen Aufbau für den Schreibtisch. Danach öffnet man einen Browser, und das vertraute Gesprächslayout ist einfach da, sodass Umsteigende von einem gehosteten Assistenten kaum etwas neu lernen.

Unabhängige Tests haben gemessen, was diese zusätzliche Schicht kostet. Dasselbe siebzigmilliarden Parameter große, quantisierte Modell auf derselben Grafikkarte: der Unterschied in der Rechengeschwindigkeit zwischen direktem Zugriff und dem Weg durch diese Oberfläche lag bei etwa zwei Prozent, die Ausgabe lief weiterhin flüssig, und ein ruhender Server hielt ein paar hundert Megabyte Speicher. Das sind die Zahlen, die entscheiden, ob sich eine Bequemlichkeitsschicht lohnt.

Wie viel in diesem Fenster steckt

Was dieses Projekt aus der Menge der Chat-Oberflächen hebt, ist die Dicke der Funktionsliste. Zwei oder mehr Modelle antworten nebeneinander, sodass sich ihre Ausgaben direkt vergleichen lassen, und ein Wechsel mitten im Gespräch behält den Kontext. Markdown und LaTeX werden sauber gesetzt, technische Notizen und Formeln sehen also aus, wie sie sollen. Sprachaufnahme, Sprachausgabe und sogar ein Videogespräch sind eingebaut. Bilderzeugung lässt sich an mehrere verschiedene Hintergründe hängen. Eine Warteschlange für Nachrichten erlaubt weiterzutippen, während eine Antwort noch läuft, ein Gedächtnis trägt Vorlieben über Gespräche hinweg, und eine geplante Automatik kann eine Anweisung im festen Takt auslösen.

Für alle, die mit Dokumenten arbeiten, verdient die Suchseite einen eigenen Absatz. Zwei Vektorspeicher werden offiziell gepflegt, ein Dutzend weitere Anbindungen existieren für andere Speicher, und eine ähnliche Vielfalt an Auslesern deckt die Erkennungsseite ab. Die gemischte Suche verbindet Stichwortbewertung mit Vektorähnlichkeit und sortiert anschließend über einen Kreuzkodierer nach; wenn Genauigkeit mehr zählt als Kosten, überspringt ein Volltextmodus die Zerstückelung und schiebt ein ganzes Dokument in den Kontext. Aus PDF-Dateien eine Wissensbasis bauen und das Modell darin selbst suchen lassen hieß früher, einen Stapel Bausteine zusammenzusetzen. Hier kommt es fertig an.

Teamtauglich, kein Spielzeug für einzelne

Viele offene Chat-Oberflächen enden beim Einzelplatz. Diese steckt Funktionen für Unternehmen in die freie Gemeinschaftsfassung: Rechte nach Rollen entscheiden genau, wer welches Modell nutzen darf, eine einheitliche Anmeldung über OIDC und Verzeichnisprüfung hängt sich an ein vorhandenes Identitätssystem, eine automatische Zuteilung hält Nutzergruppen mit diesem Verzeichnis im Gleichschritt, und ein Prüfprotokoll hält jede Nutzung fest. Die Unterlagen sagen ausdrücklich, dass diese Identitätsfunktionen für unbegrenzt viele Nutzende frei sind, ohne Lizenzschlüssel.

Für Zusammenarbeit gibt es eigenes Gerät. Kanäle setzen Menschen und Modelle auf eine Zeitachse, sodass jemand ein Modell um einen Entwurf bittet und ein anderes danach um Einwände. Notizen lassen sich von einem Modell an Ort und Stelle umschreiben und als Kontext in das Gespräch einspeisen. Für ein kleines Team, das seine mittlere Schicht für KI selbst besitzen statt mieten will, ist diese Mischung großzügig.

Erweiterbarkeit als zweiter Graben

Werkzeuge in Python lassen sich im Browser schreiben und dem Modell direkt zugänglich machen. Eine Kette von Erweiterungen kann jede Nachricht filtern und umformen; so entstehen Ratenbegrenzung, Prüfung oder ein Aufruf an einen anderen Dienst. Die native Unterstützung von MCP verbindet ein Modell mit äußeren Werkzeugservern, und eine Terminalfunktion gibt ihm so etwas wie einen echten Rechner: Code schreiben, ausführen, Ausgabe lesen, eigene Fehler beheben, alles im Gespräch. Dazu eine Arena für Modelle, eine Anzeige des Verbrauchs und eine Rangliste nach Bewertung, und man hat eher eine Infrastruktur, die man jahrelang betreibt, als eine Anwendung für eine Woche.

Betriebsformen und Datenhoheit

Die Betriebswege sind absichtlich weit. Ein Speicherkasten zu Hause oder ein kleiner virtueller Server für ein paar Dollar im Monat genügt am einen Ende, ein Containerverbund wird am anderen unterstützt. Wandert der Sitzungszustand in einen Speicher im Arbeitsspeicher, skaliert die Anwendung waagerecht über mehrere Knoten, und mit Dateien in einem Objektspeicher sind zustandslose Instanzen möglich. Spuren, Messwerte und Protokolle lassen sich über ein übliches Verfolgungsverfahren in eine vorhandene Überwachung ausleiten.

Die wichtigste Fähigkeit ist der Betrieb ganz ohne Außennetz. In einem abgetrennten Segment oder mit gezogenem Kabel bringt ein lokales Modell zusammen mit einer lokalen Wissensbasis den ganzen Kreislauf noch zu Ende, und genau deshalb schauen Praxen, Kanzleien und Behörden mit Regeln zur Datenhaltung überhaupt hin. Daten bleiben von Anfang bis Ende auf eigenen Platten, und ein Wechsel des Modellanbieters ändert niemandes Gewohnheiten, eine Freiheit, die kein gehosteter Dienst bietet.

Die Lizenz ist eine Trennlinie

Eines sollte man vor dem Aufstellen prüfen. Im April 2025 wechselte das Projekt von einer BSD-Lizenz mit drei Klauseln zu einer eigenen Lizenz. Die Grundlage bleibt BSD, ergänzt um eine Klausel zur Kennzeichnung: Eine Installation mit höchstens fünfzig aktiven Endnutzenden in einem rollenden Zeitraum von dreißig Tagen darf die Kennzeichnung frei entfernen, alles darüber muss sie behalten oder eine schriftliche Erlaubnis einholen. Einzelne, Familien und kleine Teams sind nicht betroffen, wer aber eine umbenannte kaufmännische Fassung weitergeben will, sollte diese Linie vorher abwägen.

Die Fassungen erscheinen weiterhin dicht, die aktuelle ist 0.11.3, und das Verzeichnis hat hundertfünfzigtausend Sterne und Hunderte Millionen Abrufe überschritten, was eine Gemeinschaft ist, die mit Aufmerksamkeit abstimmt.

Den Blick zurückgezogen: Steht eine Maschine bereit, die ein Modell tragen kann, fehlt nur die Schicht, die daraus eine Plattform für ein Team macht. Dieses Projekt füllt sie mit dem Umfang eines Containers: Oberfläche, Wissensbasis, Rechte und Erweiterbarkeit, und die Wahl der Hardware bleibt bei einem selbst. Für Menschen und Teams, denen wichtig ist, wo die Daten liegen, und die es satt haben, pro Platz zu zahlen, ist das derzeit der geräuschloseste Weg.