Private AI heißt: Ihre Kanzlei nutzt moderne Sprachmodelle in einer eigenen, geschützten Umgebung statt in öffentlichen KI-Tools. Bluebatch richtet dafür Open WebUI und vLLM mit EU-Hosting, AVV und dediziertem Tenant ein - konform mit DSGVO und § 203 StGB, ohne Training mit Mandantendaten, einsatzbereit in wenigen Tagen.
Bevor eine Kanzlei über KI-Agenten oder automatisierte Workflows nachdenkt, steht eine Grundsatzfrage: In welcher Umgebung dürfen Mandantendaten verarbeitet werden? Öffentliche KI-Tools scheiden wegen § 203 StGB in der Regel aus.
Private AI beantwortet diese Frage strukturell: Offene Sprachmodelle laufen auf Infrastruktur, die Ihre Kanzlei kontrolliert. Darauf bauen dann KI-Agenten und Workflows auf - mit derselben geschützten Basis.
KI im Kanzleialltag ist keine Zukunftsfrage mehr. Die eigentliche Frage ist, auf welchem Fundament sie läuft. Vier Gründe sprechen dafür, dieses Fundament jetzt selbst zu kontrollieren.
Berufsgeheimnisträger dürfen Mandantendaten nicht an Unbefugte weitergeben, auch nicht an KI-Anbieter ohne Verschwiegenheitsverpflichtung. Private AI löst das strukturell: Die Modelle laufen in einer Umgebung, über die die Kanzlei die Kontrolle behält, statt in einem öffentlichen Dienst mit unklarem Datenfluss.
Wer auf offene Modelle in eigener Infrastruktur setzt, hängt nicht an Preis-, Vertrags- oder Rechtsänderungen einzelner US-Konzerne. Modell und Daten liegen dort, wo die Kanzlei sie haben will, und lassen sich jederzeit auf andere Infrastruktur umziehen.
Öffentliche KI-Dienste rechnen pro Anfrage ab. Wer täglich viele Dokumente zusammenfasst, Schriftsätze entwirft oder Belege prüft, zahlt laufend mit. Eigene Infrastruktur kostet planbar: Die Hardware oder der gemietete Server kostet dasselbe, egal ob 100 oder 10.000 Anfragen laufen.
Mandanten fragen zunehmend, wie die Kanzlei mit KI und ihren Daten umgeht. Wer sagen kann, dass kein Mandantendatum die eigene Umgebung verlässt und nichts zum Training fremder Modelle verwendet wird, macht aus Datenschutz ein aktives Argument im Mandantengespräch.
Der Software-Stack ist bei allen Varianten ähnlich: Open WebUI als Chat-Oberfläche für das Team, dahinter ein Modell-Server wie vLLM (performant, mehrbenutzerfähig) oder Ollama (einfacher Einstieg), darauf offene Sprachmodelle wie Llama, Mistral oder Qwen. Der Unterschied liegt darin, wo das Ganze läuft.
| Betriebsmodell | Wie es funktioniert | Wo liegen die Daten | Für wen geeignet |
|---|---|---|---|
| On-Premise im eigenen Haus | Eigener GPU-Server in der Kanzlei mit Open WebUI und vLLM oder Ollama. Die Kanzlei betreibt alles selbst oder mit IT-Partner. | Verlassen das Haus nie, maximale Kontrolle ohne externen Anbieter. | Kanzleien mit höchsten Anforderungen an Vertraulichkeit und eigener oder betreuter IT. |
| Dedizierte EU-Cloud | Derselbe Stack auf einem gemieteten, dedizierten Server in einem europäischen Rechenzentrum. Keine eigene Hardware nötig. | Auf einem Server, den nur die Kanzlei nutzt, mit AVV und EU-Hosting. | Der häufigste Weg: volle Kontrolle über Software und Daten ohne Hardware-Investition. |
| Europäische KI-APIs | Anbieter wie der IONOS AI Model Hub oder STACKIT AI Model Serving (Schwarz-Gruppe) stellen offene Modelle wie Llama, Mistral und Qwen als Dienst aus deutschen Rechenzentren bereit, ohne Training mit Kundendaten. | Verarbeitung in deutschen Rechenzentren des Anbieters, AVV erforderlich. | Schneller Start ohne eigene GPU-Infrastruktur, wenn ein europäischer Auftragsverarbeiter akzeptabel ist. |
Bei den Modellen hat sich viel getan: Offene Modelle wie Llama, Mistral und Qwen erreichen heute eine Qualität, die für typische Kanzleiaufgaben wie Zusammenfassungen, Textentwürfe und Dokumentenanalyse gut ausreicht. Mit Teuken-7B existiert zudem ein vollständig in Europa entwickeltes Modell. Welche Variante und welches Modell passen, ist keine Glaubensfrage, sondern eine Frage von Datenlage, Volumen und IT-Situation der Kanzlei.
Bluebatch begleitet Kanzleien auf dem ganzen Weg zu Private AI, von der rechtlichen Bestandsaufnahme über die Einrichtung bis zum Betrieb. Sie entscheiden, wie viel Sie selbst übernehmen wollen.
Am Anfang steht die Bestandsaufnahme: Welche KI-Tools sind schon im Einsatz, wo fließen heute Mandantendaten hin, was verlangen DSGVO und § 203 StGB konkret? Daraus entsteht ein klarer Plan, welche Betriebsvariante zur Kanzlei passt, bevor Geld in Infrastruktur fließt.
Wir richten Open WebUI als Oberfläche für Ihr Team ein und konfigurieren vLLM als Modell-Server, wahlweise auf einem dedizierten EU-Server oder auf Hardware im Haus. Inklusive Nutzerverwaltung, Zugriffsrechten und passender Modellauswahl für Ihre Aufgaben.
Die beste Umgebung nützt nichts, wenn das Team weiter das private ChatGPT-Konto nutzt. Wir schulen Ihre Mitarbeiter an konkreten Kanzleiaufgaben: Schriftsätze entwerfen, Bescheide zusammenfassen, Mandantenanfragen vorbereiten, sicher und in der geschützten Umgebung.
Wer keine eigene IT binden will, gibt den Betrieb an uns ab: Wir halten Modelle und Software aktuell, überwachen die Umgebung und kümmern uns um Updates und Sicherheit. Die Infrastruktur bleibt dabei Ihre, Sie können den Betrieb jederzeit selbst übernehmen.
Ob Audit, Einrichtung oder kompletter Betrieb: Im Erstgespräch klären wir, welcher Einstieg für Ihre Kanzlei sinnvoll ist.
Hier finden Sie die Antworten auf häufig gestellte Fragen.
Private AI bedeutet, dass Sprachmodelle wie Llama oder Mistral in einer eigenen, geschützten Umgebung laufen - auf EU-Servern oder im eigenen Haus - statt in einem öffentlichen Cloud-Dienst. Mandantendaten verlassen die kontrollierte Umgebung nicht und werden nie zum Training fremder Modelle verwendet.
Steuerberater unterliegen § 203 StGB (Verletzung von Privatgeheimnissen). Wer Mandantendaten in öffentliche KI-Tools eingibt, riskiert eine Strafbarkeit. Private AI löst das strukturell: Die KI läuft in einer Umgebung, über die die Kanzlei die volle Kontrolle hat - inklusive AVV und EU-Hosting.
Typischer Stack: Open WebUI als Chat-Oberfläche für das Kanzlei-Team, vLLM als performanter Modell-Server, gehostet in der EU oder on-premise. Einrichtung inklusive Konfiguration und Schulung dauert in der Regel wenige Tage.
Offene Modelle wie Llama (Meta), Mistral (europäischer Anbieter) und Qwen liefern für Kanzleiaufgaben wie Textentwürfe, Zusammenfassungen und Dokumentenanalyse sehr gute Ergebnisse und laufen vollständig in eigener Umgebung. Mit Projekten wie Teuken-7B gibt es zudem Modelle, die komplett in Europa entwickelt wurden. Welches Modell passt, hängt von den Aufgaben und der verfügbaren Hardware ab.
Das hängt von drei Faktoren ab: Modellgröße, Hosting-Variante (eigene Hardware, gemieteter GPU-Server oder europäische KI-API) und Nutzerzahl. Ein gemieteter EU-Server ist deutlich günstiger als eigene GPU-Hardware im Haus, dafür verlassen die Daten bei On-Premise nie die Kanzlei. Der wichtigste Unterschied zu öffentlichen KI-Diensten: Die Kosten sind planbar und steigen nicht mit jeder Anfrage. Eine konkrete Einschätzung geben wir nach einem kurzen Gespräch über Ihre Anforderungen.
Claude Cowork nutzt das Claude-Modell von Anthropic in einer verwalteten, § 203-konformen Umgebung - die stärkste Modellqualität, aber verwaltet. Private AI betreibt offene Modelle komplett in eigener Infrastruktur - maximale Kontrolle, auch ohne externen Anbieter.
