Wenn die KI ein Urteil zitiert, das es nicht gibt

Zwei Beschlüsse standen in dem Schriftsatz. Sauber zitiert, mit Datum und Aktenzeichen, einer davon sogar mit Fundstelle in der FamRZ. Nur existierte keiner von beiden.

Das Kammergericht wies die Beschwerde zurück und nahm den Fall zum Anlass, die Anwältin ausdrücklich auf ihre Prüfpflicht hinzuweisen (Beschluss vom 20.11.2025, 17 WF 144/25). Die Bundesrechtsanwaltskammer hat die Entscheidung am 8. Juni 2026 in ihren Newsroom gehoben, und spätestens seitdem ist die Frage in der Kanzleiwelt gestellt: Wie viel Prüfung ist eigentlich genug?

Muss ich jede von der KI gelieferte Fundstelle einzeln nachprüfen?

Ja. Jede einzelne, vor jedem Versand, unabhängig davon, wie plausibel sie aussieht. Das Kammergericht formuliert es so, dass Anwälte gehalten sind, mit Hilfe von KI verfasste Schriftsätze zu prüfen, insbesondere darauf, ob die enthaltenen Rechtsprechungszitate das Ergebnis einer "fantasierenden" KI sind.

Das klingt nach einer Selbstverständlichkeit. In der Praxis scheitert es genau daran, dass eine erfundene Fundstelle nicht falsch aussieht. Sie sieht richtiger aus als eine echte, weil das Modell die Konventionen der Zitierweise perfekt beherrscht und nur den Inhalt nicht kennt.

Was war beim Kammergericht konkret passiert?

Eine Mutter beantragte im einstweiligen Rechtsschutz eine Sorgerechtsregelung und Verfahrenskostenhilfe. Das Amtsgericht wies den Eilantrag zurück. In der Beschwerde tauchten Zitate auf, die es so nie gegeben hat, darunter ein angeblicher BGH-Beschluss vom 14.11.2007 (XII ZB 183/07, FamRZ 2008, 137) und ein Beschluss des OLG Brandenburg vom 28.07.2016 (13 UF 103/16).

Zu dem angeblichen BGH-Beschluss hält das Gericht trocken fest, eine Entscheidung mit diesem Aktenzeichen sei in keiner juristischen Datenbank und nicht auf der Internetseite des BGH vorhanden. Der Hinweis stützt sich auf das Mandatsverhältnis und § 43 BRAO.

Vier Monate früher hatte ein anderes Gericht bereits eine schärfere Linie gezogen. Das Amtsgericht Köln rügte am 02.07.2025 (312 F 130/25) einen Schriftsatz mit falsch zugeordneten Kommentarstellen, nicht existierenden Fundstellen und frei erfundenen Rechtssätzen, darunter ein Zitat "BGH NJW 2025, 13". Das Gericht gab dem Verfahrensbevollmächtigten auf, derartige Ausführungen künftig zu unterlassen, und wies ausdrücklich darauf hin, dass bewusst unwahrer Vortrag über Inhalt und Aussagen von Gesetzen und Urteilen gegen § 43a Abs. 3 BRAO verstößt.

Der Unterschied zwischen beiden Entscheidungen ist bemerkenswert. Das Kammergericht bleibt bei der allgemeinen anwaltlichen Prüfpflicht aus § 43 BRAO. Das Amtsgericht Köln zieht zusätzlich die Grenze zu § 43a Abs. 3 BRAO: Wer wissentlich falsche Aussagen über Gesetze oder Urteile verbreitet, bewegt sich nicht mehr im Bereich bloß mangelhafter Prüfung.

Für Kanzleien folgt daraus ein organisatorisches Problem. Die Prüfung muss nicht nur stattfinden. Wer KI systematisch einsetzt, sollte auch nachvollziehbar organisieren, wie diese Prüfung erfolgt.

Ist das in Deutschland überhaupt ein relevantes Problem?

Die international geführte AI Hallucination Cases Database von Damien Charlotin weist bislang nur acht Fälle aus Deutschland aus. Das klingt zunächst beruhigend. Ist es aber nur bedingt.

Die Datenbank warnt selbst vor Überinterpretation. Sie erfasst Entscheidungen, in denen ein Gericht den KI-Einsatz ausdrücklich aufgreift oder feststellt, dass eine Partei sich auf halluzinierte Inhalte gestützt hat. Ausdrücklich nicht erfasst wird nach eigener Beschreibung das weitere Universum aller falschen Zitate in Schriftsätzen.

Was die acht Fälle also messen, ist nicht die Häufigkeit erfundener Fundstellen, sondern die Häufigkeit ihrer gerichtlichen Erwähnung. Hinzu kommt ein struktureller Unterschied zu anderen Rechtsordnungen: In Deutschland wird nur ein kleiner Teil der Gerichtsentscheidungen veröffentlicht. Das erschwert zumindest die öffentliche Überprüfung vermeintlicher Entscheidungen. Ob deshalb Halluzinationen tatsächlich seltener entdeckt werden, lässt sich aus den verfügbaren Zahlen allerdings nicht ableiten.

Warum reicht sorgfältiges Prompten nicht aus?

Weil das Problem nicht in der Formulierung der Anfrage liegt, sondern in der Bauart des Werkzeugs. Ein Sprachmodell erzeugt Antworten auf Basis statistisch gelernter Muster. Ohne verlässliche Anbindung an eine Rechtsquelle ist eine ausgegebene Fundstelle deshalb zunächst Text und noch kein Nachweis.

Sorgfältiges Prompting kann das Risiko reduzieren. Es kann es nicht beseitigen. Auch die Anweisung, ausschließlich belegte Quellen zu nennen, ersetzt deshalb keine Quellenprüfung.

Was hilft, ist eine andere Werkzeugarchitektur. Ein System, das Antworten aus einem definierten und kontrollierten Quellenbestand zieht und die verwendeten Belegstellen unmittelbar mitliefert, reduziert das Risiko und beschleunigt die menschliche Prüfung erheblich. Es ersetzt sie nicht. Auch ein solches System kann eine vorhandene Quelle falsch auslegen oder einen Rechtssatz falsch zuordnen.

Welche Prüfschritte halten im Alltag?

Vier Punkte, mehr braucht es nicht, aber weniger reicht nicht:

• Jede Fundstelle in einer verlässlichen Primärquelle oder juristischen Datenbank öffnen, nicht die Zusammenfassung der KI lesen.
• Aktenzeichen, Datum und Fundstellenangabe getrennt abgleichen. Erfundene Zitate sind oft in einem der drei Elemente korrekt und wirken deshalb echt.
• Kommentarstellen mit Auflage und Randnummer prüfen. Die Auflage ist der stille Klassiker, weil Modelle alte Zählungen mitschleppen.
• Kein Zitat geht raus, das niemand geöffnet hat. Wer prüft, wird im Dokument vermerkt.

Der letzte Punkt ist der unbequemste und der wichtigste. Er verwandelt eine Sorgfaltsfrage in eine Organisationsfrage, und Organisationsfragen lassen sich im Zweifel belegen.

Und was ist mit dem Mandatsgeheimnis?

Die Fundstelle ist nur die eine Hälfte des Problems. Wer für Recherche oder Formulierung Mandantendaten in ein KI-System eingibt, muss zusätzlich Berufsgeheimnis, Datenschutz und die Anforderungen an externe Dienstleister beachten. Eine fachlich richtige Antwort macht einen unzulässigen Umgang mit Mandatsinformationen nicht zulässig. Wie sich das im Rahmen von § 203 StGB und § 43e BRAO sauber lösen lässt, steht in einem eigenen Beitrag.

Ändert die KI-Verordnung an dieser Pflicht etwas?

Nicht an der Prüfpflicht selbst. Die kommt aus dem Berufsrecht und stand schon vor jedem KI-Werkzeug im Gesetz.

Verändert hat sich der Rahmen drumherum, und zwar in beide Richtungen gleichzeitig.

Abgeschwächt wurde die konkrete Verpflichtung aus Art. 4 KI-Verordnung. Bis Juli 2026 mussten Anbieter und Betreiber nach besten Kräften ein ausreichendes Maß an KI-Kompetenz sicherstellen. Die durch die Verordnung (EU) 2026/1744 geänderte Fassung verlangt seit dem 27. Juli 2026, Maßnahmen zur Unterstützung der KI-Kompetenz zu treffen, und stellt klar, dass damit kein bestimmtes Kompetenzniveau einer einzelnen Person garantiert werden muss. Die Pflicht bleibt, ihr Zuschnitt wird weicher. Dieselbe Verordnung hat die Pflichten für Hochrisiko-Systeme nach Anhang III auf den 2. Dezember 2027 verschoben, für Anhang-I-Systeme gilt nun der 2. August 2028.

Konkreter geworden ist dagegen die Aufsicht. Der europäische Bußgeldrahmen aus Art. 99 KI-Verordnung bestand bereits seit August 2025. Mit dem KI-MIG, in Kraft seit dem 29. Juli 2026, hat Deutschland die nationale Aufsichtsstruktur konkretisiert: Die Bundesnetzagentur übernimmt zentrale Marktüberwachungsaufgaben, fungiert als zentrale Anlaufstelle und betreibt die zentrale Beschwerdestelle für Verstöße gegen die KI-Verordnung. Sektorspezifische Zuständigkeiten anderer Behörden bleiben bestehen.

Für die Kanzlei heißt das zweierlei. Die konkrete Vorgabe zur KI-Kompetenz ist weniger streng gefasst, die berufsrechtliche Prüfpflicht bleibt unverändert hart. Wer daraus ableitet, man könne die Schulung jetzt sparen, hat die falsche Norm gelesen. Und für Beschwerden im Anwendungsbereich der KI-Verordnung gibt es mit der neuen Aufsichtsstruktur nun einen klareren institutionellen Weg.

Wo auraHub in dieser Frage ansetzt

Der praktische Hebel liegt selten im besseren Modell. Er liegt darin, dass Mitarbeiter aufhören, private Accounts im Browser zu benutzen, weil es intern nichts Brauchbares gibt.

auraHub (öffnet in neuem Tab) ist dafür gebaut: kontrollierter Zugang zu mehreren Sprachmodellen, mit Rollen, Rechten und Protokoll, statt fertiger Chatoberfläche eine MicroApp pro Aufgabe, Betrieb wahlweise in der eigenen Cloud oder On-Premises. Wie wir das in Kanzleien und Steuerkanzleien aufsetzen, steht auf der Branchenseite. Ohne eine solche Protokollebene lässt sich ein strukturierter KI-Einsatz im Nachhinein deutlich schwerer nachvollziehen und dokumentieren.

Was auraHub nicht leistet, gehört genauso in diesen Text: Es prüft keine Fundstelle für Sie und übernimmt keine Verantwortung für den Schriftsatz. Die Maschine bereitet vor, der Anwalt zeichnet.

Der unbequeme Teil

Rechnen Sie einmal nach, wie viele Schriftsätze in den letzten sechs Monaten Ihre Kanzlei verlassen haben, bei denen ein Entwurf aus einem Sprachmodell kam und niemand dokumentiert hat, wer die Zitate geöffnet hat. Wenn Sie die Zahl nicht kennen, ist das bereits das Ergebnis der Prüfung.

Fangen Sie mit einer Regel an, die keine Software braucht: kein Zitat ohne geöffnete Primärquelle, Prüfer im Dokument vermerkt. Alles andere lässt sich danach bauen.