Wer schon einmal einen Vertragsauszug, einen Befund oder ein Stück eigenen Code in einen gehosteten Assistenten kopiert hat, kennt das kurze Innehalten danach: Wo ist dieser Text eigentlich gelandet? Die Rechnung kommt jeden Monat, die Bestimmungen zum Datenschutz werden jedes Jahr neu geschrieben, und in regulierten Branchen stellt sich die Frage gar nicht erst. Ein Modell auf der eigenen Maschine laufen zu lassen beantwortet sie an der Wurzel - nur beginnt fast jede Anleitung dafür mit einer Seite Befehlszeile, und dort hören die meisten auf.

Jan ist die kompromissloseste Antwort auf einem ziemlich kurzen Regal. Das Fensterprogramm stammt von einem kleinen Team in Singapur und steht seit 2023 unter einer großzügigen offenen Lizenz: Gesprächsfenster, Modellverwaltung und lokaler Dienst sind Zeile für Zeile lesbar. Mehr als vierzigtausend Sterne hat das Verzeichnis gesammelt, die Installationen liegen über fünf Millionen. Die Lizenz ist hier kein Schmuck. Man kann dem Code folgen, der den eigenen Text anfasst, und sich davon überzeugen, dass nichts heimlich nach Hause telefoniert.

Ohne Netz zu arbeiten ist der eigentliche Kern. Ist ein offenes Modell einmal aus dem eingebauten Katalog geholt, laufen Gespräch, Fragen an lange Dokumente und der lokale Dienst weiter, auch wenn das Kabel gezogen ist; der Verlauf liegt als gewöhnliche Dateien auf der Platte, und gerechnet wird auf dem eigenen Prozessor und der eigenen Grafikkarte. In einem abgeschotteten Netz, im Zug oder einfach in einem Haushalt, der seine Notizen lieber zu Hause lässt, macht das aus einem Bequemlichkeitswerkzeug etwas, auf das man sich verlassen kann.

Versteckt wird vor allem die Mechanik darunter. Ein Modellzentrum führt die bekannten offenen Familien auf und vermerkt zu jedem Eintrag, wie gut er zur Maschine davor passt; ein Klick startet den Abruf, der sich anhalten und fortsetzen lässt. Gespräche stehen in der linken Spalte, die Abtastregler rechts - ungefähr das Layout jedes anderen Gesprächsprogramms. Festgelegt wird man dabei nicht: Zugangsdaten der großen gehosteten Anbieter lassen sich eintragen, und ein vertrauliches lokales Modell und ein sehr leistungsfähiges entferntes teilen sich dasselbe Fenster, je nach Aufgabe umgeschaltet.

Für Menschen, die Code schreiben, wird dasselbe Programm zur Leitung. Der lokale Dienst stellt einen Endpunkt bereit, der dasselbe Anforderungsformat wie die großen gehosteten Anbieter annimmt, und horcht standardmäßig auf Port 1337; ein vorhandenes Skript braucht meist nur eine neue Adresse. Mit MCP reicht das Modell über sich hinaus, steuert ein Browsergesicht oder führt Code aus - der Weg zu agentenartigem Arbeiten. Die Fassungen des Jahres 2026 kamen dicht: die Vorhersage mehrerer Einheiten auf einmal, Zweige für Nachrichten beim Modellwechsel, Unterstützung der Rechenumgebung eines zweiten Kartenherstellers unter Linux, und im neuesten Stand eine eingebaute Suche samt Abruf von Seiten, damit ein lokales Modell die Nachrichten von heute sieht.

Die Grenzen verdienen dieselbe Deutlichkeit. Tempo und Güte sind das, was die eigene Hardware hergibt; 16 GB Arbeitsspeicher sind eine realistische Unterkante, größere Modelle wollen eine ernsthafte Karte oder deutlich mehr Speicher. Beim harten Schließen fällt der Abstand zu den besten gehosteten Modellen auf. Eine Fassung für das Telefon gibt es nicht. Und offen ist die Anwendung selbst: manche Zugaben liegen hinter einer wahlweisen Bezahlstufe, die lokale Nutzung im Kern blieb durchweg kostenlos.

Während KI zu so etwas wie öffentlicher Infrastruktur wird, ist die Frage, wem die Daten gehören, nicht länger abstrakt. Jans Antwort ist schlicht: der Code ist offen, das Modell steht auf dem Tisch, der Verkehr bleibt drinnen, und das Ziehen des Kabels ändert nichts. Der stärkste Assistent ist es wohl nicht. Aber vermutlich der, dem man seine Geheimnisse am wenigsten ungern anvertraut.

Echte Privatheit ist kein Versprechen, sondern eine Bauweise. Wenn der Quelltext lesbar ist, das Modell lokal liegt und das Kabel gezogen werden kann, hat Vertrauen endlich etwas Festes unter den Füßen.