Neue vorgeschlagene Gesetzgebung in Florida zur Nutzung von KI bei der Schadensbearbeitung
KI ersetzt noch nicht die Entscheidungsträger in Versicherungsunternehmen, da eine neue Gesetzgebung in Florida darauf abzielt, verpflichtende menschliche Überprüfungen von Schadensablehnungen einzuführen.
Inhalt der Gesetzentwürfe
Die Gesetzentwürfe HB 527 und der Begleitgesetzentwurf SB 202 würden auf Informationen angewendet, die Versicherern durch Algorithmen, künstliche Intelligenzsysteme oder maschinelles Lernen bereitgestellt werden. Keines dieser Systeme darf die alleinige Grundlage für die Anpassung oder Ablehnung eines Schadens darstellen, ganz oder teilweise.
Die Gesetze besagen außerdem, dass, wenn ein Versicherer plant, Algorithmen, künstliche Intelligenz oder maschinelles Lernen in seinen Schadensbearbeitungsprozessen zu verwenden, er in seinem Handbuch zur Schadensbearbeitung detailliert darlegen muss, wie die Systeme verwendet werden und wie sie den gesetzlichen Anforderungen entsprechen.
Überprüfung von Schadensablehnungen
Die Person, die die Schadensablehnungen überprüft, muss ein „qualifizierter menschlicher Fachmann“ sein – eine Person, die gemäß dem Florida Insurance Code die Befugnis hat, einen Schadensfall oder einen Teil eines Schadensfalls anzupassen oder abzulehnen.
Laut HB 527 und dem Begleitgesetzentwurf SB 202 muss dieser Fachmann, bevor er einen Schadensfall oder einen Teil davon anpasst oder ablehnt:
- Die Fakten des Schadensfalls und die Bedingungen der Versicherungspolice unabhängig von einem künstlichen Intelligenzsystem, einem System für maschinelles Lernen oder einem Algorithmus analysieren;
- Die Genauigkeit aller von einem solchen System oder Algorithmus generierten Ausgaben überprüfen;
- Feststellen, dass der Schadensfall oder ein Teil des Schadensfalls gemäß den Bedingungen der Versicherungspolice nicht zahlbar ist und abgelehnt werden sollte oder dass die Schadenszahlung reduziert werden sollte.
Relevante Herausforderungen
Die Sponsoren der vorgeschlagenen Gesetzgebung argumentieren, dass das Gesetz „eine wachsende Herausforderung auf unseren Versicherungsmarkten anspricht“ und einen „klaren und angemessenen Schutz“ gegen algorithmusgesteuerte Entscheidungen bietet.
Im Jahr 2023 genehmigte die National Association of Insurance Commissioners (NAIC) ein Modellbulletin zur Nutzung von KI durch Versicherungsunternehmen. Es umreißt die Notwendigkeit von Prozessen und Kontrollen, um mögliche Ungenauigkeiten der KI, diskriminierende Vorurteile und Datenanfälligkeiten zu verhindern.
Das Bulletin erinnert die Versicherer an bestehende regulatorische Gesetze, die unfaire Wettbewerbspraktiken oder unfaire oder täuschende Handlungen regulieren. Es wird betont, dass Governance und Kontrollen über KI-Systeme erforderlich sind, um diesen Gesetzen zu entsprechen.
Schlussfolgerung
Es ist wahrscheinlich, dass diese vorgeschlagene Gesetzgebung auf Bundesebene angefochten wird, da der Präsident kürzlich eine Exekutivordnung unterzeichnet hat, die es den Bundesstaaten verbietet, ihre eigenen Gesetze zur Regulierung von künstlicher Intelligenz durchzusetzen.
