Ein Programm und ein passender Endpunkt: richtet man den Client darauf, bleibt der Code unberührt und das Modell kommt nach Hause. Kerne kommen erst, wenn ein Modell sie braucht, jede Fähigkeit hat einen Weg über den Prozessor.

Die Ablage der Schlüssel und Werte in Blöcke zu schneiden statt sie ganz zu reservieren hebt die Speichernutzung von drei oder vier Zehnteln auf über neun - dieselbe Karte bedient dann zwei- bis viermal so viele Anfragen.

Zieht man PDFs, Textverarbeitung und Tabellen in einen Arbeitsbereich, steht ein Assistent bereit, der alles gelesen hat, was man besitzt - mit Beleg unter jeder Antwort, und Modell, Vektorspeicher und Ablage bleiben ab Werk auf der Maschine.

In schlichtem C ohne Abhängigkeiten geschrieben, hat es das Dateiformat gesetzt, mit dem quantisierte Modelle klein genug für gewöhnliche Notebooks wurden - und es ist die Schicht, auf der mehrere bekannte Fensterprogramme still aufsetzen.

Keine eigene Karte, kein Konto, keine Befehlszeile: ein quantisiertes offenes Modell läuft auf einem gewöhnlichen Prozessor, und ein Ordner mit eigenen Unterlagen wird zu einer Sammlung, die man befragen kann, ohne dass etwas das Gerät verlässt.

Gesprächsfenster, Modellverwaltung und lokaler Dienst stehen Zeile für Zeile unter einer großzügigen offenen Lizenz, sodass das Gespräch auch mit gezogenem Kabel weiterläuft und niemand das Versprechen zur Privatheit glauben muss.

Eine Laufzeit statt einer Chat-Anwendung: ein Befehl lädt und startet ein offenes Modell, ein lokaler Endpunkt spricht das übliche Anfrageformat, und jedes vorhandene Skript oder Editor-Erweiterung kann ihn ansprechen.

Ein Client von rund fünf Megabyte bringt die bereits bezahlten Modelle in ein Fenster, behält Gespräche im Browser, läuft auf sechs Plattformen und kostet selbst nichts, weil die Rechnung direkt an den Anbieter geht.

Auf einen bereits laufenden Modellserver oder eine beliebige passende Schnittstelle gerichtet, wird ein Browserfenster zum Arbeitsplatz: Modelle nebeneinander, Wissensbasis aus Dokumenten, Rollenrechte und einheitliche Anmeldung.

Freie Software auf eigener Maschine: ein Fenster für mehrere Modellanbieter, ohne Programmierung zusammengesetzte Agenten, ein abgeschotteter Rechner und MCP-Anbindung, mit sichtbarem Verbrauch je Person.

Ein Abo für die tägliche Arbeit und für Code: erst ein Plan, dann Ausführung über verbundene Werkzeuge, Antworten mit rund tausend Wörtern je Sekunde, und die Daten liegen standardmäßig in der Europäischen Union.

Eine Million Zeichen Material hinein, und es zerlegt die Arbeit selbst, verteilt die Teile an einen Schwarm von Helfern und gibt etwas Brauchbares zurück. So viel lesen zu können war die ältere Geschichte; fertig zu werden ist das Thema dieser Generation.

Ein Modell mit fünfhundertzweiundfünfzig Milliarden Parametern, das Bildschirmausschnitte ohne Beschreibung liest, eine Million Token in einem Zug aufnimmt und zwischengespeicherte Eingabe mit einem Fünfzigstel Yuan je Million abrechnet. Bemerkenswert ist nicht die Größe, sondern wohin die Kosten gewandert sind.

Cherry Studio ist ein plattformübergreifender Desktop-Client für KI-Gespräche: mehrere Modelle gleichzeitig befragen und vergleichen, eigene Materialien in einer lokalen Wissensbasis halten, Bilder und Übersetzungen daneben erzeugen.