Ein Programm und ein passender Endpunkt: richtet man den Client darauf, bleibt der Code unberührt und das Modell kommt nach Hause. Kerne kommen erst, wenn ein Modell sie braucht, jede Fähigkeit hat einen Weg über den Prozessor.

Die Ablage der Schlüssel und Werte in Blöcke zu schneiden statt sie ganz zu reservieren hebt die Speichernutzung von drei oder vier Zehnteln auf über neun - dieselbe Karte bedient dann zwei- bis viermal so viele Anfragen.

Zieht man PDFs, Textverarbeitung und Tabellen in einen Arbeitsbereich, steht ein Assistent bereit, der alles gelesen hat, was man besitzt - mit Beleg unter jeder Antwort, und Modell, Vektorspeicher und Ablage bleiben ab Werk auf der Maschine.

In schlichtem C ohne Abhängigkeiten geschrieben, hat es das Dateiformat gesetzt, mit dem quantisierte Modelle klein genug für gewöhnliche Notebooks wurden - und es ist die Schicht, auf der mehrere bekannte Fensterprogramme still aufsetzen.

Keine eigene Karte, kein Konto, keine Befehlszeile: ein quantisiertes offenes Modell läuft auf einem gewöhnlichen Prozessor, und ein Ordner mit eigenen Unterlagen wird zu einer Sammlung, die man befragen kann, ohne dass etwas das Gerät verlässt.

Gesprächsfenster, Modellverwaltung und lokaler Dienst stehen Zeile für Zeile unter einer großzügigen offenen Lizenz, sodass das Gespräch auch mit gezogenem Kabel weiterläuft und niemand das Versprechen zur Privatheit glauben muss.

Eine Laufzeit statt einer Chat-Anwendung: ein Befehl lädt und startet ein offenes Modell, ein lokaler Endpunkt spricht das übliche Anfrageformat, und jedes vorhandene Skript oder Editor-Erweiterung kann ihn ansprechen.

Ein Client von rund fünf Megabyte bringt die bereits bezahlten Modelle in ein Fenster, behält Gespräche im Browser, läuft auf sechs Plattformen und kostet selbst nichts, weil die Rechnung direkt an den Anbieter geht.

Freie Software auf eigener Maschine: ein Fenster für mehrere Modellanbieter, ohne Programmierung zusammengesetzte Agenten, ein abgeschotteter Rechner und MCP-Anbindung, mit sichtbarem Verbrauch je Person.

Cherry Studio ist ein plattformübergreifender Desktop-Client für KI-Gespräche: mehrere Modelle gleichzeitig befragen und vergleichen, eigene Materialien in einer lokalen Wissensbasis halten, Bilder und Übersetzungen daneben erzeugen.