Generative KI im Tal der Tränen: Chance für Kanzleien

Die Zahl ist ernüchternd: 2024 gaben Unternehmen weltweit im Schnitt knapp 2 Mio. US‑Dollar pro Jahr für Generative KI aus – aber weniger als ein Drittel der CEOs ist mit dem Return on Investment zufrieden. Genau hier stehen aktuell auch viele deutsche Kanzleien und Rechtsabteilungen: hohe Erwartungen, erste Experimente, aber kein messbarer Durchbruch.

Die gute Nachricht: Dieses sogenannte „Trough of Disillusionment“ im Gartner Hype Cycle ist kein Scheitern, sondern eine Reifeprüfung. Wer sie besteht, baut jetzt die Grundlagen für wirklich produktive KI – gerade im Rechtsmarkt. In unserer Serie „KI für deutsche Rechtsanwälte: LegalTech Praxis“ schauen wir uns an, wie das konkret aussieht.

Dieser Beitrag zeigt, warum das Tal der Tränen für Jurist:innen eine strategische Chance ist, welche Hausaufgaben Kanzleien jetzt erledigen sollten und wie Sie Ihre KI‑Projekte von „Hype“ auf nachhaltige Produktivität umstellen.

---

1. Was das „Tal der Tränen“ für Jurist:innen wirklich bedeutet

Für Rechtsanwälte und Syndikusrechtsanwälte heißt „Tal der Tränen“ vor allem eines: Die Spielerei mit KI‑Tools ist vorbei, jetzt geht es um belastbare Ergebnisse.

Die meisten Kanzleien haben 2023/2024 erste Schritte gemacht:

• ChatGPT & Co. für schnelle Recherchen oder Formulierungshilfen
• Pilotprojekte zur Vertragsanalyse mit KI
• Experimente mit KI‑gestützter Rechtsrecherche

Viele Partner stellen nun fest:

• Die Qualität schwankt, Halluzinationen sind real.
• Mandanten zahlen ungern für „KI‑Experimente“.
• Es fehlt die Zeit, interne Strukturen für KI‑Einsatz aufzubauen.

Die Realität: Generative KI bringt ohne saubere Daten, klare Prozesse und Governance kaum nachhaltigen Mehrwert in einer Kanzlei. Genau hier beginnt der Reifeprozess.

„KI ist für Rechtsabteilungen kein IT‑Projekt, sondern ein strategisches Zukunftsthema.“ – diese Beobachtung aus der Arbeit von Future-Law trifft 1:1 auf deutsche Kanzleien zu.

Wer KI jetzt als Teil der Kanzleistrategie behandelt, statt als Gimmick einzelner Tech‑affiner Associates, verschafft sich einen deutlichen Vorsprung.

---

2. Weg vom Tool-Hype: Welche Grundlagen Kanzleien jetzt brauchen

Der wichtigste Schritt im Tal der Tränen: Fokus weg von einzelnen Tools, hin zu Grundlagen und Architektur. Für die Praxis deutscher Kanzleien heißt das:

2.1 AI-ready Data: Ohne saubere Wissensbasis keine gute KI

Generative KI ist nur so gut wie die Daten, auf denen sie arbeitet. Für Kanzleien bedeutet das:

• Verträge liegen in unterschiedlichen Versionen auf Fileservern
• Schriftsätze, Gutachten, Memos sind unstrukturiert abgelegt
• Wissen steckt im Kopf einzelner Partner statt in Systemen

Wer so arbeitet, darf sich über mittelmäßige KI‑Ergebnisse nicht wundern.

Konkrete Schritte für „AI-ready Data“ in der Kanzlei:

1. Mandatsdokumente strukturieren

   • einheitliche Ablagestrukturen nach Mandant, Matter, Dokumenttyp
   • verbindliche Benennungskonventionen

2. Wissensdokumente klassifizieren

   • Standardklauseln, Musterverträge, Schriftsatzbausteine taggen
   • klare Unterscheidung zwischen „aktuell“, „archiviert“, „nur als Referenz“

3. Rechtliche Datenqualität sichern

   • Verantwortliche pro Fachbereich für die Pflege von Wissenssammlungen
   • regelmäßige Reviews (z.B. quartalsweise) für Muster und Vorlagen

Wer hier jetzt investiert, kann später eigene KI‑Modelle oder KI‑Agenten auf qualitativ hochwertigen Kanzleidaten aufsetzen – statt blind einem generischen Modell zu vertrauen.

2.2 AI Engineering & ModelOps für die Rechtsbranche übersetzt

Begriffe wie AI Engineering oder ModelOps klingen nach Tech-Abteilung, betreffen aber direkt Ihre Arbeitsweise:

• AI Engineering bedeutet: KI‑Funktionen werden wie echte Produkte behandelt – mit klaren Zuständigkeiten, Testprozessen, Dokumentation.
• ModelOps bedeutet: Modelle werden überwacht, verbessert und rechtssicher betrieben – statt einmal eingeführt und dann vergessen.

Für Kanzleien heißt das ganz praktisch:

• Es gibt ein KI‑Verantwortlichen‑Team (Partner + IT + Datenschutz + ggf. LegalTech‑Spezialist).
• Jeder KI‑Einsatz (z.B. Vertragsprüfung, Litigation-Analytics) hat definierte Use Cases, Qualitätskriterien und Dokumentation.
• Änderungen an Modellen oder Prompts werden nachvollziehbar versioniert.

Auch kleinere Einheiten können so arbeiten – mit schlankem Setup, aber klaren Regeln.

---

3. AI Agents & KI-native Entwicklung: Was kommt konkret auf Kanzleien zu?

Die nächste Entwicklungsstufe von Generative KI sind AI Agents: autonome Softwareeinheiten, die Aufgabenketten selbständig ausführen. Für deutsche Rechtsanwälte ist das keine ferne Zukunft, sondern eine sehr konkrete Perspektive bis 2026/2027.

3.1 Beispiele für KI-Agenten in Kanzleien

Einige praxisnahe Szenarien:

• Mandats-Onboarding-Agent
  Fragt Basisdaten ab, erstellt Entwürfe für Mandatsvereinbarung, richtet Akten und Fristen an, prüft Sanktionslisten (unter menschlicher Kontrolle).

• Vertragsanalyse-Agent
  Bricht umfangreiche Verträge runter auf: Risikocluster, Abweichungen von Kanzlei-Standard, fehlende Klauseln – mit klaren Handlungsempfehlungen.

• Research-Agent
  Kombiniert Datenbanken, interne Wissenssammlungen und aktuelle Rechtsprechung, erstellt strukturierte Research-Memos mit Quellenangaben.

Solche Agenten sind kein Ersatz für anwaltliche Bewertung, aber sie verschieben massiv, wo Jurist:innen ihre Zeit verbringen: weg von Routine, hin zu Strategie und Bewertung.

3.2 Sicherheit, Haftung, Vertrauen

Je autonomer KI‑Agenten werden, desto wichtiger werden drei Punkte:

1. Sicherheit & Vertraulichkeit
   • Datenspeicherung in der EU, Verschlüsselung, Mandatsgeheimnis
   • klare Grenzen: Welche Daten dürfen in welche Modelle?

1. Haftung & Verantwortlichkeit

   • Wer haftet, wenn der KI‑Agent eine unvollständige Risikoanalyse liefert?
   • Wie dokumentiert die Kanzlei, dass ein Mensch das Ergebnis geprüft hat?

2. Transparenz gegenüber Mandanten

   • Setzen Sie KI ein? Wo genau?
   • Wie stellen Sie Qualität sicher?
   • Wie wirkt sich das auf Stundensätze und Pricing aus?

Hier zeigt sich der Vorteil der Rechtsbranche: Jurist:innen verstehen Governance, Haftung und Compliance besser als jede andere Berufsgruppe. Kombiniert mit technischer Kompetenz kann daraus ein echter Wettbewerbsvorteil entstehen.

---

4. Typische Fehler von Kanzleien – und wie Sie es besser machen

Die meisten deutschen Kanzleien machen in der Frühphase von KI‑Projekten erstaunlich ähnliche Fehler. Wer sie vermeidet, spart Zeit, Geld und Frust.

4.1 Fehler 1: Zu tool-fokussiert statt prozessorientiert

Viele Teams starten mit der Frage: „Welches KI‑Tool sollen wir kaufen?“
Die bessere Frage lautet: „Welchen Prozess wollen wir verändern?“

Beispiel: Vertragsarbeit in einer mittelgroßen Wirtschaftskanzlei

• Falsch: „Wir brauchen ein KI‑Tool für Vertragsanalyse.“
• Richtig: „Wir wollen die Zeit für Standardvertragsprüfungen um 40 % reduzieren, ohne Qualitätsverlust. Welche Prozessschritte eignen sich für KI-Unterstützung?“

4.2 Fehler 2: Kein klares Qualitätsniveau definiert

Gerade bei Generativer KI schwanken Ergebnisse. Kanzleien erwarten oft „magische“ Perfektion – und sind dann enttäuscht.

Besser ist ein klarer Rahmen:

• Für interne Recherche: 80–90 % Trefferqualität akzeptabel, Rest wird menschlich nachgezogen.
• Für Mandantenprodukte: KI liefert Vorentwürfe und Struktur, Freigabe erfolgt immer durch erfahrene Jurist:innen.

4.3 Fehler 3: Kein Zeitbudget für Lernen und Anpassung

KI‑Einführung ist kein Nebenbei-Projekt. Wer nicht bewusst Zeit für Lernen, Testen und Nachschärfen einplant, versandet im Alltag.

Was funktioniert:

• Festes Pilotteam mit klar definiertem Zeitkontingent (z.B. 4 Stunden pro Woche).
• Begrenzter Scope: z.B. nur NDAs, nur Standardlieferverträge, nur ein Fachbereich.
• Nach 3 Monaten: Review, Learnings, Entscheidung zur Skalierung oder zum Stopp.

---

5. Konkreter Fahrplan: So kommen Kanzleien vom Hype zur Produktivität

Wer das Tal der Tränen nutzen will, braucht einen klaren, pragmatischen Fahrplan. Ein mögliches 5‑Schritte‑Vorgehen für Kanzleien und Rechtsabteilungen:

Schritt 1: KI-Strategie in der Partnerrunde fest verankern

• KI als festen Punkt in der Kanzleistrategie 2026 verankern
• Verantwortliche Partner:in und ein interdisziplinäres Kernteam benennen
• Zielbild definieren: Welche Arbeitsbereiche sollen bis Ende 2026 KI‑unterstützt laufen?

Schritt 2: Wissensinfrastruktur aufbauen

• Dokumentenlandschaft analysieren: Wo liegen Verträge, Schriftsätze, Memos?
• Priorisierte Wissensbestände identifizieren (z.B. Standardverträge, häufige Klauselsets)
• Strukturierung und Tagging starten – notfalls klein, aber konsequent

Schritt 3: 2–3 konkrete KI‑Use Cases auswählen

Typische Startkandidaten in deutschen Kanzleien:

• Erstprüfung von NDAs (Abweichungen zum Standard erkennen)
• Klauselvorschläge bei wiederkehrenden Vertragsarten
• KI-gestützte Recherche-Memos als Arbeitsgrundlage für Associates

Wichtig: Jeder Use Case bekommt klare Erfolgskriterien, z.B.

• 30 % Zeitersparnis bei Standardvertragsprüfungen
• Zufriedenheit der verantwortlichen Partner:innen ≥ 8/10

Schritt 4: Governance, Compliance, Dokumentation aufsetzen

• Richtlinie zum Einsatz von KI in der Kanzlei (Do’s & Don’ts)
• Datenschutz- und Geheimhaltungsvorgaben konkret auf KI übertragen
• Prüf- und Freigabeprozesse definieren (Vier-Augen-Prinzip, Logging)

Schritt 5: Schulung & Change ernst nehmen

• Schulungen nicht nur technisch („So nutzt man Tool X“), sondern auch:
  • Wie prüfe ich KI‑Ergebnisse?
  • Wann vertraue ich der KI nicht?
  • Wie erkläre ich Mandanten den KI‑Einsatz?
• Incentives setzen: Wer Use Cases verbessert, spart nicht nur Zeit, sondern wird auch sichtbar als Innovationstreiber in der Kanzlei.

---

6. Wissen ist Macht – und Datensouveränität ist Kanzleimacht

Der vielleicht wichtigste Punkt aus der täglichen Arbeit von Future-Law – und aus vielen LegalTech‑Projekten im DACH‑Raum – ist radikal einfach:

Wer sein Wissen nicht strukturiert, überlässt die Kontrolle den Tools – und am Ende den Anbietern.

Für Kanzleien und Rechtsabteilungen bedeutet das:

• Wer heute seine Wissensbasis aufbaut, kann morgen eigene KI‑Lösungen ansteuern und bleibt Herr über die Ergebnisse.
• Wer es nicht tut, landet dauerhaft in der Position des Tool-Konsumenten, der sich an die Vorgaben großer Tech‑Plattformen anpassen muss.

Gerade im deutschen Rechtsmarkt – mit hohem Qualitätsanspruch, starkem Berufsrecht und sensiblen Mandatsdaten – ist Datensouveränität kein Luxus, sondern Pflicht.

Die aktuelle Phase im Gartner Hype Cycle ist deshalb für den Rechtsmarkt kein Dämpfer, sondern eine Einladung:

• weg vom Ausprobieren einzelner Tools,
• hin zu strategisch geplanter, rechtssicherer und produktiver KI im Kanzleialltag.

Wer diese Einladung annimmt, wird auf dem „Plateau of Productivity“ nicht nur mithalten, sondern den Markt aktiv mitgestalten – bei Vertragsanalyse, Rechtsrecherche, Prozessvorhersage und im gesamten Kanzleimanagement.

---

Nächster Schritt für Sie:
Setzen Sie sich in der Partnerrunde oder in der Rechtsabteilung konkret mit einer Frage auseinander: Welcher eine Prozess soll 2026 als „KI-unterstütztes Vorzeigeprojekt“ gelten?
Wenn Sie darauf eine klare Antwort finden, haben Sie den wichtigsten Schritt aus dem Tal der Tränen bereits gemacht.