Die Auswirkungen von KI-Vorschriften auf Insurtech

Der Einfluss von KI-Vorschriften auf Insurtech

Insurtech ist stark in der künstlichen Intelligenz (KI) verwurzelt und nutzt diese Technologie, um Marketing, Vertrieb, Underwriting, Schadensbearbeitung, Betrugserkennung und mehr im Versicherungsbereich zu verbessern. Es ist wahrscheinlich, dass Insurtech-Unternehmen nur an der Oberfläche dessen kratzen, was in diesen Bereichen möglich ist. Parallel dazu wird erwartet, dass die Regulierung von KI zusätzliche rechtliche Überlegungen in jedem Schritt des Designs, der Implementierung und des Betriebs von KI-Systemen in diesen Kontexten schafft.

Rechtliche Überlegungen und KI-Exposition

Wie bei den Vorschriften zur Datenprivatsphäre ist die Antwort auf die Frage „Welche KI-Gesetze gelten?“ stark faktenspezifisch und oft abhängig von der Exposition oder den Daten, die in das Modell eingegeben werden. Anwendbare Gesetze lösen sich in der Regel basierend auf den Arten von Daten oder dem Wohnort der Personen, deren Daten zur Schulung der Modelle verwendet werden, aus, und nicht basierend auf dem Standort des Designers oder des Betreibers. Daher gibt es, solange die Nutzung eines Modells nicht strikt auf eine einzige Jurisdiktion beschränkt ist, wahrscheinlich eine Exposition gegenüber mehreren sich überlappenden Vorschriften (neben den Datenschutzbedenken), die das Design und die Implementierung eines Insurtech-KI-Modells beeinflussen.

Management von Regulierungsrisiken im KI-Design

Angesichts dieser Komplexität kann die Breite der Exposition eines Insurtech-KI-Modells eine wichtige Schwellenüberlegung im Design darstellen. Unternehmen sollten das Risiko aus der Perspektive der Begrenzung unnötiger regulatorischer Aufsicht oder der Schaffung potenzieller regulatorischer Haftungen, wie z.B. Strafen oder Bußgeldern, angemessen bewerten. Beispielsweise sollte ein Insurtech-Unternehmen, das KI einsetzt, berücksichtigen, ob das betreffende Modell ausschließlich für inländische Versicherungsangelegenheiten verwendet werden soll und ob es von Wert wäre, Daten von internationalen Betroffenen zu nutzen. Maßnahmen zu ergreifen, um sicherzustellen, dass das Modell keine Exposition gegenüber internationalen Datenbetroffenen hat, kann die Anwendung von extraterritorialen, internationalen Gesetzen, die KI regeln, begrenzen und das potenzielle Risiko der Nutzung einer KI-Lösung minimieren. Andererseits, wenn eine Exposition gegenüber den breitestmöglichen Daten aus operativen Gründen wünschenswert ist, beispielsweise um Trainingsdaten zu erweitern, müssen Unternehmen sich der rechtlichen Konsequenzen solcher Entscheidungen bewusst sein, bevor sie sie treffen.

Aktuelle bundesstaatliche KI-Gesetzgebung

Im Jahr 2024 haben mehrere US-Bundesstaaten KI-Gesetze verabschiedet, die die Nutzung der Technologie regeln und die Entwickler und Betreiber von Insurtech betreffen können. Bemerkenswerterweise sind die bundesstaatlichen KI-Gesetze nicht einheitlich. Diese Gesetze reichen von umfassenden regulatorischen Rahmenbedingungen, wie dem Artificial Intelligence Act von Colorado, bis hin zu engeren, auf Offenlegung basierenden Gesetzen wie Kaliforniens AB 2013, das von KI-Entwicklern verlangt, öffentlich Dokumente über die Trainingsdaten ihrer Modelle zu veröffentlichen. Mehrere zusätzliche Gesetzentwürfe zur KI-Regulierung sind bereits für 2025 anhängig, darunter:

• Massachusetts’ HD 3750: Würde von Krankenversicherern verlangen, die Nutzung von KI offenzulegen, einschließlich, aber nicht beschränkt auf den Überprüfungsprozess von Ansprüchen, und jährliche Berichte über Trainingssets sowie eine Bestätigung zur Minimierung von Verzerrungen einzureichen.
• Virginia’s HB 2094: Bekannt als das Gesetz über hochriskante KI-Entwickler und -Betreiber, würde die Implementierung einer Risikomanagementpolitik und -programme für „hochriskante KI-Systeme“ verlangen, die definiert sind als „jedes KI-System, das speziell darauf abzielt, autonom eine entscheidende Entscheidung zu treffen oder ein wesentlicher Faktor bei der Entscheidungsfindung zu sein (unter bestimmten Ausnahmen).“
• Illinois’ HB 3506: Unter anderem würde dieser Gesetzentwurf verlangen, dass Entwickler alle 90 Tage Risikobewertungsberichte veröffentlichen und jährliche externe Audits durchführen.

Die wachsende Bedeutung der Compliance

Angesichts des offensichtlichen Rückzugs der Bundesregierung von der Verfolgung einer umfassenden KI-Regulierung können Unternehmen damit rechnen, dass die staatlichen Behörden die Führung bei der Regulierung und Durchsetzung von KI übernehmen. Angesichts der breiten und oft erheblichen Nutzung von KI im Insurtech-Bereich und der Erwartung, dass diese Nutzung im Laufe der Zeit angesichts ihrer Nützlichkeit nur zunehmen wird, wird Unternehmen in diesem Bereich geraten, die aktuellen und anstehenden KI-Gesetze genau zu beobachten, um die Compliance sicherzustellen. Nichteinhaltung kann nicht nur die Exposition gegenüber staatlichen Regulierungsbehörden erhöhen, die mit der Durchsetzung dieser Vorschriften beauftragt sind, sondern auch potenziell zu direkten Verbraucherklagen führen. Wie in unserem vorherigen Hinweis erwähnt, ist es auch entscheidend, gut auf Compliance vorbereitet zu sein, um im Markt aus transaktionaler Sicht gut positioniert zu sein.

Der Insurtech-Bereich wächst parallel zu dem sich ausdehnenden Patchwork von KI-Vorschriften in den USA. Prudentes Wachstum in der Branche erfordert ein Bewusstsein für die damit verbundenen rechtlichen Dynamiken, einschließlich der aufkommenden regulatorischen Konzepte im ganzen Land.