Die Gefahren des blinden Vertrauens in künstliche Intelligenz: Lehren aus einer Geldstrafe von 60.000 USD
Der Rechtsberuf befindet sich derzeit in einer Phase rascher technologischer Veränderungen, da generative künstliche Intelligenz (KI)-Werkzeuge wie ChatGPT als Unterstützung für juristische Recherchen und Schreibarbeiten zunehmend eingesetzt werden. Die Nutzung von KI in der juristischen Recherche und im Schreiben muss daher stets von strenger menschlicher Aufsicht begleitet sein. Andernfalls können kostspielige Geldstrafen, Sanktionen und öffentliche Peinlichkeiten die Folge sein.
Ein bemerkenswerter Fall ist die verhängte Geldstrafe von 60.000 USD gegen eine prominente Anwaltskanzlei und einen ihrer Anwälte, weil sie einen Schriftsatz eingereicht hatten, der KI-generierte, falsche juristische Quellen enthielt, um die Position ihres Mandanten zu unterstützen. Diese juristische Recherche resultierte aus sogenannten „KI-Halluzinationen“, bei denen generative KI plausible Ergebnisse produziert, die jedoch fiktive juristische Materialien wie Zitationen, Fallnamen und Zitate enthalten, die in Wirklichkeit nicht existieren.
Die rechtlichen Konsequenzen
Im Dezember 2025 verhängte ein Gericht in Illinois Sanktionen von fast 50.000 USD gegen die Anwaltskanzlei und 10.000 USD gegen den Anwalt in Verbindung mit der Einreichung eines nachträglichen Antrags, der KI-Halluzinationen beinhaltete. Die gegnerische Partei informierte das Gericht darüber, dass mehrere Zitationen, auf die sich die Kanzlei stützte, auf nicht existierende Fälle des Obersten Gerichtshofs von Illinois verwiesen, welche fälschlicherweise von ChatGPT generiert wurden. Dies führte dazu, dass die gegnerische Partei einen umfangreichen Antrag auf Sanktionen einreichte.
In einem scharfen Urteil charakterisierte das Gericht das Fehlverhalten der Kanzlei und des Anwalts als ein „ernsthaftes Versagen“ und betonte die Pflicht eines Anwalts, dem Gericht wahrheitsgemäße und genaue juristische Autoritäten vorzulegen. Das Gericht unterstrich, dass es nicht um den Missbrauch künstlicher Intelligenz zur Durchführung unzuverlässiger juristischer Recherchen und Entwürfe gehe, sondern um die unverzeihliche Einreichung falscher Autoritäten und faktischer Argumente.
Berufliche Pflichten und Standards
Die Regel 1.1 der Illinois Model Rules of Professional Conduct (MRPC) bestätigt, dass Anwälte „kompetente Vertretung“ bieten müssen, was das notwendige juristische Wissen, die Fähigkeiten, die Gründlichkeit und die Vorbereitung umfasst. Die Kommentierung zu MRPC 1.1 verlangt von Anwälten, sich über Änderungen im Recht und in der juristischen Praxis, einschließlich der Vorteile und Risiken relevanter Technologien, auf dem Laufenden zu halten.
Die Kanzlei erkannte diese Situation als ein „ernsthaftes Versagen in der Professionalität“ an. Darüber hinaus wurden neue Maßnahmen zur Schulung der Anwälte hinsichtlich der KI-Richtlinien der Kanzlei implementiert und vorbeugende Maßnahmen etabliert.
Schlüsselmaßnahmen zur Risikominderung
Der verantwortungsvolle Einsatz von KI muss folgende Elemente umfassen:
- Pflicht zur menschlichen Überprüfung: Alle von der KI generierten oder vorgeschlagenen Zitationen und juristischen Autoritäten müssen obligatorisch von Menschen überprüft werden.
- Klare interne Richtlinien: Jede Kanzlei muss klare Richtlinien für die akzeptable Nutzung von KI festlegen, einschließlich der Identifizierung von Aufgaben, die unter der direkten Kontrolle eines Anwalts bleiben müssen.
- Fortlaufende Schulung: Kontinuierliche Weiterbildung und Schulung bezüglich des Einsatzes von KI im sich rasch verändernden Rechtsumfeld.
- Dokumentation der Überprüfungsschritte: Zur Demonstration der Einhaltung ethischer Verpflichtungen.
Schlussfolgerung
Rechtsanwälte müssen hohe Standards für berufliche Integrität und Verantwortung aufrechterhalten. Die Einreichung eines juristischen Schriftsatzes mit falschen Fallzitaten verletzt die langjährigen beruflichen Pflichten eines Anwalts hinsichtlich Genauigkeit, Offenheit und Kompetenz. Die Sanktion gegen die Kanzlei und den Anwalt in diesem Fall signalisiert, dass Gerichte bei Fallzitaten auf mögliche KI-Halluzinationen achten und eine Strafe für die Einreichung falscher juristischer Autorität kostspielig sein kann. Während KI ein nützliches Werkzeug ist und eine wertvolle Rolle bei juristischen Recherchen und Schreibarbeiten spielen kann, entbindet sie einen Anwalt nicht von seinen ethischen und treuhänderischen Pflichten.
