Sechsstellige Sanktionen für AI-halluzinierte Berufungen

6th Circuit Court of Appeals verhängt sechsstellige Geldstrafen für drei KI-halluzinierte Berufungen

Das Berufungsgericht des 6. Bezirks hat kürzlich gegen zwei Anwälte Geldstrafen von über 100.000 Dollar verhängt, weil sie in ihren Berufungsschriften auf halluzinierte Fälle verwiesen haben.

Das Gericht stellte fest, dass die Schriftsätze „wiederholt den Akteninhalt falsch darstellten, nicht existierende Fälle zitierten und Fälle für Rechtsauffassungen anführten, die sie nicht einmal diskutierten, geschweige denn belegten.“ Die Anwälte wurden sowohl gemäß der Bundesregelung für Berufungsverfahren 38 als auch aufgrund der eigenen Autorität des Gerichts bestraft.

Missbrauch des adversarischen Systems

Das Gericht führte eine Reihe von rechtlichen Präzedenzfällen an, die zeigen, wie das Zitieren von gefälschten Fällen gegen Regel 11 verstößt: „Ein Versuch, ein Gericht zu überzeugen oder einem Gegner entgegenzutreten, indem auf gefälschte Urteile verwiesen wird, ist ein Missbrauch des adversarischen Systems.“

In einer Fußnote bemerkte das Gericht, dass „bei der Verwendung von KI zur Erstellung eines Schriftsatzes ‚KI-Halluzinationen wahrscheinlicher auftreten, wenn es nur wenige oder keine bestehenden Autoritäten gibt, die die Anfrage des Benutzers klar erfüllen‘.“ Mit anderen Worten, die bloße Existenz eines gefälschten Falls in einem Schriftsatz kann darauf hindeuten, dass eine Behauptung unbegründet ist. „[J]eder vernünftige Anwalt sollte wissen, dass ein Fall unbegründet ist, wenn die einzige Autorität, auf die er sich stützen kann, ein Produkt der Fantasie ist.“

Reaktion auf die gerichtliche Aufforderung

Die Entscheidung des Gerichts ist auch ein Beispiel dafür, was man nicht tun sollte, wenn man eine Aufforderung zur Stellungnahme erhält. In diesem Fall stellten die Anwälte die Autorität des Gerichtsschreibers in Frage, anstatt Probleme mit ihrem Schriftsatz anzuerkennen, die problematischen Zitationen zurückzuziehen oder sich beim Gericht oder der gegnerischen Partei zu entschuldigen.

Höhe der Geldstrafe

Die Geldstrafen sind die höchsten, die bisher in diesem Kontext verhängt wurden:

  • Beide Anwälte sind gesamtschuldnerisch für die Anwaltskosten der drei Berufungen der Beklagten verantwortlich. Die Anwaltskosten der Beklagten beliefen sich auf 26.315,09 Dollar für die drei Berufungen.
  • Beide Anwälte sind gesamtschuldnerisch für doppelte Kosten gegenüber allen drei Beklagten verantwortlich. Die Beklagten gaben an, dass ihnen keine Kosten für die Berufung entstanden sind.
  • Beide Anwälte müssen dem Berufungsgericht 45.000 Dollar als strafende Geldstrafe für die drei Berufungen zahlen.

Insgesamt stehen die beiden Anwälte vor einer gemeinsamen Geldstrafe von 71.315,09 Dollar, was zu einer Gesamtstrafe von 116.315,09 Dollar führt. Dies ist wahrscheinlich die größte Geldstrafe, die bisher für KI-halluzinierte Schriftsätze verhängt wurde.

More Insights

Verantwortungsvolle KI: Ein unverzichtbares Gebot für Unternehmen

Unternehmen sind sich der Notwendigkeit von verantwortungsvollem KI-Betrieb bewusst, behandeln ihn jedoch oft als nachträglichen Gedanken oder separates Projekt. Verantwortliche KI ist eine vordere...

Neues KI-Governance-Modell gegen Schatten-KI

Künstliche Intelligenz (KI) verbreitet sich schnell in den Arbeitsplatz und verändert, wie alltägliche Aufgaben erledigt werden. Unternehmen müssen ihre Ansätze zur KI-Politik überdenken, um mit der...

EU plant Aufschub für AI-Gesetzgebung

Die EU plant, die Anforderungen für risikobehaftete KI-Systeme im KI-Gesetz bis Ende 2027 zu verschieben, um Unternehmen mehr Zeit zu geben, sich anzupassen. Kritiker befürchten, dass diese...

Weißes Haus lehnt GAIN AI-Gesetz ab: Nvidia im Fokus

Das Weiße Haus hat sich gegen den GAIN AI Act ausgesprochen, während es um die Exportbeschränkungen für Nvidia-AI-Chips nach China geht. Die Diskussion spiegelt die politischen Spannungen wider, die...

Ethische KI als Beschleuniger für Innovation

Unternehmen stehen heute unter Druck, mit künstlicher Intelligenz zu innovieren, oft jedoch ohne die notwendigen Sicherheitsvorkehrungen. Indem sie Datenschutz und Ethik in den Entwicklungsprozess...

KI im Recruiting: Verborgene Risiken für Arbeitgeber

Künstliche Intelligenz verändert die Art und Weise, wie Arbeitgeber Talente rekrutieren und bewerten. Während diese Tools Effizienz und Kosteneinsparungen versprechen, bringen sie auch erhebliche...

KI im australischen Kabinett: Chancen und Sicherheitsbedenken

Die australische Regierung könnte in Betracht ziehen, KI-Programme zur Erstellung sensibler Kabinettsanträge zu nutzen, trotz Bedenken hinsichtlich Sicherheitsrisiken und Datenverletzungen...