Bevor jemand einen Vertrag, einen Aufsatzentwurf oder das Protokoll eines Kundengesprächs in einen gehosteten Assistenten kopiert, hält er kurz inne: Ist der Text einmal hochgeladen, liegt er nicht mehr ganz in der eigenen Hand. AnythingLLM antwortet, indem es die ganze Kette auf die eigene Maschine zurückholt. Das Vorhaben ist quelloffen unter der großzügigsten Art von Lizenz, hat 66 000 Sterne überschritten, bringt seine stabilen Stände in zügiger Folge - der aktuelle erschien Ende August 2026 - und kommt als Fensterprogramm für die drei großen Systeme oder als Container, den ein Team auf dem eigenen Server betreibt.

Der ordnende Gedanke ist der Arbeitsbereich. Jeder ist eine abgeschlossene Umgebung: eigene Dokumente, eigener Gesprächsverlauf, eigene Modellwahl, eigene Vorgaben für die Anweisungen. Kundenverträge in einem, interne Studien in einem zweiten, persönliche Notizen in einem dritten; nichts schwappt über, und die Antworten bleiben am jeweiligen Zusammenhang. Hinein kommt Material ohne Zeremonie - einfach hineinziehen. PDFs, Textverarbeitung, Tabellen mit Komma-Trennung, Rechenblätter, ganze Codearchive und gewöhnliche Webverweise werden angenommen, und das Programm zerlegt, teilt und rechnet sie selbst in Zahlenreihen um; ein PDF von einem Dutzend Seiten ist in Sekunden erfasst. Danach ist es wie ein Gespräch mit einem Assistenten, der alles gelesen hat, was man besitzt: fragen, nachhaken, zusammenfassen lassen oder zwei Kapitel vergleichen, und jede Antwort trägt Verweise auf die genaue Stelle. Ob eine Auskunft trägt und woher sie stammt, ist mit einem Blick zu sehen.

Dass die Daten bleiben, wo sie sind, ist hier kein Spruch, sondern die Bauweise ab Werk. Auf dem Schreibtisch kommen Modell, Einbettungsmodell, Vektorspeicher und Ablage mit lokalen Werten: Modelle werden über die eingebaute Maschine geholt und gestartet, die Suche läuft über die eingebaute Vektorsammlung, kein Konto wird verlangt, es entstehen keine Nutzungsdaten - mit gezogenem Kabel funktioniert das Gespräch über die eigenen Dokumente weiterhin vollständig. Verschlossen ist der Bau trotzdem nicht. Mehr als 30 Anbieter werden unterstützt, gehostete Dienste lassen sich in den Einstellungen umschalten, und verschiedene Arbeitsbereiche dürfen verschiedene Modelle nutzen: ein leichtes lokales Modell für die private Tagesarbeit, ein stärkeres in der Ferne für schwierige Aufgaben, die Grenze zieht der Nutzer.

Die Decke liegt höher als bei Fragen an Dokumente. Ruft man im Gesprächsfeld den eingebauten Vertreter auf, sucht er im Netz, holt eine Seite, fragt eine Datenbank ab oder fasst Dateien an; ein bildlicher Editor reiht diese Schritte per Ziehen zu zeitgesteuerten Abläufen aneinander; und MCP läuft in beide Richtungen - fremde Werkzeuge lassen sich in einen Arbeitsbereich hängen, und AnythingLLM selbst kann anderen Programmen als MCP-Dienst angeboten werden. In der Gemeinde wachsen Anweisungen, Fertigkeiten und Abläufe laufend nach. Für Entwickler gibt es eine vollständige Schnittstelle über Arbeitsbereiche, Dokumente und Gespräche, und ein Gesprächsbaustein lässt sich in ein eigenes Erzeugnis einbetten.

Drei Gruppen finden sich hier wieder. Wer Unterlagen hat, die zu heikel für einen fernen Dienst sind; wer ein eigenes Archiv aus Notizen führt und es lieber befragt als durchsucht; und ein kleines Team, das den Container lieber auf einer Maschine im Büro aufstellt. Keine davon braucht denselben Umfang an Möglichkeiten, und ein und dasselbe Paket bedient alle drei.

Raum für Zweifel bleibt. Das Fensterprogramm sitzt auf einer Hülle aus Webtechnik und ist nicht leichtgewichtig; die Güte der Antworten hängt stark vom Modell dahinter und davon ab, wie ordentlich die Vorlagen sind, und eine schlecht gescannte Seite bleibt eine schlecht gescannte Seite; die Rechte für mehrere Nutzer gehören der Container-Ausgabe, das Fensterprogramm ist für eine Person gedacht. An der Vorgabe lokal zuerst gemessen ist es dennoch eine der fertigsten Möglichkeiten: kein Zusammensetzen aus Gesprächsfenster, Vektorspeicher und Einbettungsmodell - ein Paket bringt die private Werkbank auf den Schreibtisch, und es bleibt nur, die eigenen Unterlagen hineinzuziehen.