EIOPA veröffentlicht Konsultation zur Meinungsbildung über KI-Governance und Risikomanagement
Am 12. Februar 2025 veröffentlichte die Europäische Versicherungs- und Pensionsaufsichtsbehörde („EIOPA“) eine Konsultation zu ihrer Entwurfmeinung über die Governance und das Risikomanagement von künstlicher Intelligenz („KI“).
Die Meinung richtet sich an Aufsichtsbehörden und behandelt die Aktivitäten von sowohl Versicherungsunternehmen als auch Vermittlern (nachfolgend gemeinsam als „Unternehmen“ bezeichnet), insofern als sie KI-Systeme in der Versicherungswertschöpfungskette nutzen können.
Ziele der Konsultation
Die Meinung zielt darauf ab, die Hauptprinzipien und Anforderungen in der versicherungsrechtlichen Gesetzgebung für Versicherungs-KI-Systeme zu klären, die weder verboten noch als hochriskant gemäß der Verordnung (EU) 2024/1689 („KI-Gesetz“) gelten. Die Meinung bietet Leitlinien zur Anwendung der versicherungsrechtlichen Gesetzgebung auf KI-Systeme, die zum Zeitpunkt des Inkrafttretens des KI-Gesetzes nicht verbreitet oder verfügbar waren.
Der Ansatz setzt hohe Aufsichtserwartungen an die Governance- und Risikomanagementprinzipien, die Unternehmen befolgen sollten, um KI-Systeme verantwortungsbewusst zu nutzen, wobei die Risiken und die Verhältnismäßigkeit jedes Einzelfalls berücksichtigt werden.
Wesentliche Punkte der Meinung
- Risikoabschätzung: Unternehmen sollten das Risiko von KI in ihren verschiedenen Anwendungsfällen bewerten und entsprechende Governance- und Risikomanagementmaßnahmen entwickeln.
- Verhältnismäßige Maßnahmen: Nach der Bewertung sollten Unternehmen Maßnahmen entwickeln, um den verantwortungsvollen Einsatz von KI sicherzustellen, die auf den spezifischen Anwendungsfall zugeschnitten sind.
- Governance- und Risikomanagementsysteme: In Übereinstimmung mit Art. 41 der Europäischen Richtlinie 2009/138/EG und anderen relevanten Vorschriften sollten Unternehmen angemessene Systeme entwickeln, die folgende Aspekte berücksichtigen:
- Fairness und Ethik
- Daten-Governance
- Dokumentation und Aufbewahrung von Aufzeichnungen
- Transparenz und Erklärbarkeit
- Menschliche Aufsicht
- Genauigkeit, Robustheit und Cybersicherheit
- Dokumentation der KI-Nutzung: Unternehmen wird empfohlen, in einer Politik (z.B. IT-Strategie oder spezifischer KI-Strategie) den Ansatz zur Nutzung von KI im Unternehmen zu definieren und regelmäßig zu überprüfen.
- Verantwortungsrahmen: Unabhängig davon, ob das KI-System intern oder von Dritten entwickelt wurde, sollten Unternehmen Verantwortungsrahmen implementieren.
- Kundenorientierung: EIOPA ermutigt zu einem kundenorientierten Ansatz in der KI-Governance, um sicherzustellen, dass die Kunden fair behandelt werden.
- Datenqualität: Die Daten, die zur Schulung von KI verwendet werden, müssen vollständig, genau und frei von Vorurteilen sein.
- Roteressmechanismen: Es sollten angemessene Mechanismen eingerichtet werden, um Kunden die Möglichkeit zu geben, sich zu beschweren, wenn sie durch ein KI-System negativ betroffen sind.
- Interne Kontrollen: Die Meinung hebt hervor, dass interne Kontrollen für ein effektives Compliance- und Risikomanagementprogramm erforderlich sind.
Die Meinung schlägt keine zusätzlichen Gesetze oder Änderungen bestehender Gesetze vor. Vielmehr soll EIOPA spezifische Leitlinien zur Betriebsführung von KI-Systemen unter bestehenden EU-Vorschriften bereitstellen, die einen prinzipienbasierten Ansatz verfolgen.
Die Rückmeldungen zur Meinung müssen bis zum 12. Mai 2025 eingereicht werden. EIOPA wird das erhaltene Feedback berücksichtigen und die Meinung entsprechend überarbeiten.
