Kanzlei-Wissensdatenbank: durchsuchbares Wissen auf eigener Infrastruktur

Eine Kanzlei-Wissensdatenbank macht das interne Wissen einer Steuerkanzlei per RAG (Retrieval-Augmented Generation) durchsuchbar: Vermerke, Vorlagen, Fachnotizen und sogar Live-Call-Aufzeichnungen. Die Wissensdatenbank läuft auf eigener Infrastruktur mit EU-Hosting oder on-premise, konform mit DSGVO und § 203 StGB, sodass Mandantendaten die kontrollierte Umgebung der Kanzlei nie verlassen.

Das Wissen ist da, nur findet es niemand

Jede Kanzlei hat ihr Wissen längst erarbeitet: Der Spezialfall von vor zwei Jahren liegt als Vermerk in der Handakte, die Argumentation gegen das Finanzamt in einem Schriftsatz, die Einschätzung des Berufsträgers in einer Besprechung, die niemand protokolliert hat. Wer heute vor derselben Frage steht, fragt den Kollegen, sucht in Ordnerstrukturen oder erarbeitet alles noch einmal.

Eine durchsuchbare Wissensdatenbank dreht das um: Mitarbeiter stellen ihre Frage in normaler Sprache und bekommen eine Antwort aus den eigenen Kanzlei-Dokumenten, mit Verweis auf die Quelle. Die Grundlage dafür ist Private AI: KI auf Infrastruktur, die die Kanzlei kontrolliert.

Zum Private-AI-Hub für Steuerberater
Durchsuchbare Kanzlei-Wissensdatenbank

So funktioniert es

RAG: vom Dokumentenberg zur Antwort mit Quelle

Hinter der Wissensdatenbank steht RAG, Retrieval-Augmented Generation. Das Prinzip lässt sich in vier Schritten erklären, ganz ohne KI-Fachvokabular.

1

Wissen einsammeln

Vermerke, Gutachten, Vorlagen, Arbeitsanweisungen und Fachnotizen werden angebunden, aus Dateiablage, Dokumentenmanagement oder Wiki. Die Dokumente bleiben, wo sie sind, die Wissensdatenbank erschließt sie.

2

Inhalte durchsuchbar machen

Das System zerlegt die Dokumente in Abschnitte und legt sie in einem Suchindex ab, der nach Bedeutung findet, nicht nur nach Stichworten. Eine Suche nach Fragen zur Betriebsaufspaltung findet auch den Vermerk, der das Wort nie wörtlich verwendet.

3

Fragen in normaler Sprache

Mitarbeiter fragen wie im Gespräch: Wie haben wir das beim letzten vergleichbaren Fall begründet? Das System sucht die relevanten Abschnitte aus allen Quellen zusammen.

4

Antwort mit Quellenangabe

Das Sprachmodell formuliert aus den gefundenen Abschnitten eine Antwort und nennt die Quelldokumente. Jede Aussage lässt sich mit einem Klick am Original prüfen, entscheidend für fachliche Verlässlichkeit.

Wissen aus Live-Call-Aufzeichnungen erschließen

Auch Besprechungen werden Wissen: Live-Call-Aufzeichnungen

Das wertvollste Kanzlei-Wissen entsteht oft mündlich: in der Fallbesprechung, im Mandantengespräch, in der internen Schulung. Genau dieses Wissen wird üblicherweise nie dokumentiert. Eine Wissensdatenbank kann das ändern: Aufgezeichnete Calls werden transkribiert und fließen als durchsuchbare Quelle in die Datenbank ein.

Damit wird auch die Einschätzung aus einer Besprechung von vor einem Jahr wieder auffindbar, mit Datum und Zusammenhang. Selbstverständlich nur mit Einwilligung der Beteiligten und innerhalb der geschützten Umgebung, in der auch alle anderen Kanzleidaten liegen.

Die Basis

Warum die Wissensdatenbank auf eigene Infrastruktur gehört

Eine Wissensdatenbank enthält konzentriert das Sensibelste, was eine Kanzlei hat: Mandantenfälle, Einschätzungen, interne Diskussionen. Die Infrastruktur-Frage ist deshalb keine Nebensache, sondern die Voraussetzung.

Daten bleiben unter Kontrolle

Suchindex und Sprachmodell laufen auf einem dedizierten EU-Server oder im eigenen Haus, mit AVV und ohne Training fremder Modelle mit Kanzleidaten. Konform mit DSGVO und § 203 StGB, statt Mandantenwissen in einen öffentlichen Dienst zu laden.

Baustein der Private-AI-Umgebung

Die Wissensdatenbank ist ein typischer Ausbau einer bestehenden Private-AI-Umgebung: Dieselbe geschützte Infrastruktur, die das Kanzlei-Team für Textentwürfe und Analysen nutzt, bekommt Zugriff auf das gesammelte Kanzlei-Wissen. Details dazu auf dem Private-AI-Hub.

Alternative: verwaltete Umgebung

Kanzleien, die keine eigene Infrastruktur betreiben wollen, erreichen ein vergleichbares Schutzniveau mit Claude Cowork: einer verwalteten, DSGVO- und § 203-konformen Claude-Umgebung, in der Kanzlei-Wissen ebenfalls als Wissensbasis eingebunden werden kann.

Im Erstgespräch klären wir, welche Wissensquellen Ihre Kanzlei hat und welche Infrastruktur-Variante dazu passt.

Häufig gestellte Fragen

Hier finden Sie die Antworten auf häufig gestellte Fragen.

Was ist eine Kanzlei-Wissensdatenbank mit RAG?

RAG (Retrieval-Augmented Generation) verbindet eine durchsuchbare Dokumentensammlung mit einem Sprachmodell: Bei einer Frage sucht das System zuerst die passenden Stellen aus den Kanzlei-Dokumenten heraus und formuliert daraus eine Antwort mit Quellenangabe. Das Modell antwortet also aus dem Wissen der Kanzlei, nicht aus seinem Trainingswissen.

Welche Inhalte gehören in die Wissensdatenbank?

Alles, was Kanzlei-Wissen trägt: Vermerke und Gutachten, Vorlagen und Arbeitsanweisungen, Fachnotizen zu Spezialthemen und auf Wunsch transkribierte Live-Call-Aufzeichnungen. Gerade Besprechungen enthalten Wissen, das sonst nirgendwo dokumentiert wird.

Ist das mit DSGVO und § 203 StGB vereinbar?

Ja, wenn die Wissensdatenbank auf Infrastruktur läuft, die die Kanzlei kontrolliert: auf einem dedizierten EU-Server oder on-premise, mit AVV und ohne Training fremder Modelle mit Kanzleidaten. Genau dafür steht der Private-AI-Ansatz. Öffentliche KI-Tools mit unklarem Datenfluss scheiden für Mandantendaten in der Regel aus.

Sehen alle Mitarbeiter alle Inhalte?

Nein. Die Wissensdatenbank übernimmt Zugriffsrechte: Wer ein Dokument nicht öffnen darf, bekommt es auch nicht als Quelle in einer Antwort. Rollen und Berechtigungen werden bei der Einrichtung definiert.

Beratungsgespräch

Sichern Sie sich Ihre kostenfreie Erstberatung

  • Analyse Ihres Bedarfs
  • Erste Empfehlungen zu Ihren Workflows
  • Transparente Einblicke in unsere Methoden, Technologien & Referenzen
Berater