In depth: KI auf die Risikoagenda setzen
Berichte über Anwälte, die KI-generierte Fälle zitieren und Kundendaten in offene generative KI-Systeme eingeben, haben die Aufmerksamkeit von Regulierungsbehörden und Gerichten auf sich gezogen. Versicherer haben solche Berichte ebenfalls zur Kenntnis genommen – und während Anwaltskanzleien ihre Berufshaftpflichtversicherung erneuern, sind die Folgen nicht zu ignorieren.
Ein Kanzleiinhaber bemerkte: „Ich konnte nicht glauben, wie viele Fragen im Antragsformular zur Erneuerung in diesem Jahr zur Nutzung von KI gestellt wurden.“ Versicherer und Compliance-Experten sind sich einig, dass KI nun ein wichtiger Bestandteil der Risikobewertung einer Kanzlei ist. Doch hat die Branche wirklich verstanden, dass dies etwas ist, das verwaltet und überwacht werden muss?
Berufsethik und KI-Nutzung
Letztes Jahr stellte ein Richter fest, dass Anwälte, die gefälschte Fallzitationen einsetzten, „entsetzliche berufliche Fehlverhalten“ gezeigt hätten. Vor einem Monat wurden zwei Einwanderungsanwälte an die Regulierungsbehörde verwiesen, weil sie anscheinend generative KI verwendet hatten, um irrelevante oder falsche Fälle zu erstellen. Einer von ihnen gab auch zu, E-Mails des Innenministeriums mit Kundendaten in ein KI-System eingegeben zu haben, um sie zu erklären.
Auf der Konferenz für Risiko und Compliance der Anwaltskammer stimmten 14 % der Teilnehmer in einer Umfrage zu, dass KI „erlaubt, aber weitgehend unmanaged“ sei. In einer weiteren Sitzung, in der es um die Verantwortung für das Management der KI-Nutzung ging, sagten fast die Hälfte, dass dies in der Verantwortung der einzelnen Gebühreneinnahmen liege, während nur 24 % glaubten, dass dies die Aufgabe des Aufsichtführenden oder geschäftsführenden Partners sei.
Versicherungsanforderungen an Kanzleien
Versicherer fordern von Kanzleien klare Angaben zu ihrer KI-Politik in den Antragsformularen zur Erneuerung. Ein Partner eines Versicherungsmaklers betonte, dass Underwriter nicht versuchen, Kanzleien in Schwierigkeiten zu bringen oder ihnen Angst zu machen. „Die überwiegende Mehrheit ist begeistert von KI und möchte, dass Kanzleien sie nutzen“, sagte er.
Allerdings möchten Versicherer drei Dinge wissen: die Genauigkeit der geleisteten Arbeit, die Datensicherheit und die Vorsichtsmaßnahmen. Sie wollen sehen, wo das menschliche Element der Überprüfung und Sicherheit liegt. Der Versicherungsmarkt befindet sich noch in der Informationsbeschaffungsphase. Die zentrale Frage ist: Haben Sie eine Risiko-Politik?
Schlussfolgerung und Ausblick
Die Regulierungsbehörde wird in den kommenden Wochen neue Leitlinien zur sicheren und konformen Nutzung von KI veröffentlichen. Diese werden die Regeln für generative Tools klären, aber auch deutlich machen, dass die Vertraulichkeit und das Privileg der Kunden sowie die Zustimmung der Kunden nicht verhandelbar sind. Die Nutzung von KI überträgt nicht die Verantwortung der Anwälte für die Gewährleistung dieser Aspekte, und Kanzleien bleiben voll verantwortlich für die Qualität, Genauigkeit und Angemessenheit der angebotenen Dienstleistungen.
Zusammenfassend lässt sich sagen, dass der Schlüssel zur Zufriedenheit der Versicherer darin liegt, die Grundlagen richtig zu machen und Klarheit darüber zu schaffen, wie Risiken verwaltet werden.
