Wie man die richtigen AI-Governance-Tools auswählt: Eine gemeinsame Initiative mit der Tokio Marine Group
Mit der beschleunigten Einführung von generativer KI steigen auch die Risiken. AI-Governance-Tools bieten eine Möglichkeit, diese Risiken zu managen, doch bei einem überfüllten und schnelllebigen Markt ist die Auswahl der richtigen Lösung alles andere als einfach. Um diese Herausforderung anzugehen, haben wir uns mit der Tokio Marine Group zusammengetan, um einen strukturierten Bewertungsprozess zu gestalten.
Die Risiken in generativen KI-Anwendungen
Die generative KI entwickelt sich rasant weiter und ihre Anwendungen reichen von Kundenservice bis Produktdesign. Doch mit der zunehmenden Verbreitung treten neue Risiken auf, die über die bekannten Herausforderungen traditioneller IT-Systeme hinausgehen.
- Rechtliche Risiken: Fragen der Haftung bleiben ungeklärt. Wer ist verantwortlich, wenn ein KI-System versagt oder schädliche Ausgaben produziert?
- Soziale Risiken: Wenn Modelle unbeabsichtigt private Informationen preisgeben oder Vorurteile verstärken, kann dies das öffentliche Vertrauen untergraben.
- Technische Risiken: KI-Anfälligkeiten resultieren oft aus den Daten selbst. Probleme wie eingebettete Vorurteile oder „Halluzinationen“ sind schwerer zu erkennen.
Diese Risiken können zu finanziellen Verlusten, Rufschädigung und einem Vertrauensverlust bei den Stakeholdern führen.
Verwendung von AI-Governance-Tools zur Risikominderung
Eine der effektivsten Möglichkeiten, die Risiken der generativen KI zu bewältigen, sind AI-Governance-Tools. Diese Lösungen bieten Aufsicht und Schutzmechanismen, um Probleme frühzeitig zu erkennen.
AI-Governance-Tools fallen grob in zwei Kategorien:
- Guardrail-Tools: Diese Tools überwachen in Echtzeit die Eingaben und Ausgaben von KI-Systemen.
- Testwerkzeuge: Diese bewerten Modelle unter kontrollierten Bedingungen, um Sicherheit und Zuverlässigkeit zu prüfen.
Die Herausforderung bei der Auswahl von AI-Governance-Tools
Die Wahl des richtigen Tools ist ein komplexer Prozess. Der Markt ist überfüllt mit Lösungen, die stark variieren, was einen fairen Vergleich erschwert.
- Funktionale Vergleiche: Die Kernfunktionen der Tools sind oft sehr abstrakt definiert.
- Funktionale Bewertung: Die Funktionalität der Tools entwickelt sich schnell weiter und muss mit den neuesten gesetzlichen Anforderungen übereinstimmen.
Die Tokio Marine Group und unser gemeinsamer Ansatz
Um diese Herausforderungen zu bewältigen, haben wir mit der Tokio Marine Group einen strukturierten Prozess zur Bewertung und Auswahl von AI-Governance-Tools entwickelt.
- Bewertungsperspektiven: Wir haben 30 universelle Bewertungskriterien aufgestellt.
- Erstellung von Bewertungsdatensätzen: Eine umfassende Datenbasis wurde entwickelt, um die Leistung der Tools zu bewerten.
- Vergleich und Bewertung von Tools: Über 20 Anbieter wurden kontaktiert und evaluiert.
Der Weg nach vorne
Durch diese gemeinsame Initiative zur Bewertung von AI-Governance-Tools streben wir an, die am besten geeignete Lösung zu identifizieren und bis zum Geschäftsjahr 2025 umzusetzen. Dies wird nicht nur die Risiken der generativen KI reduzieren, sondern auch die Voraussetzungen für eine breitere Einführung schaffen.
