Neue Gesetzgebung in Virginia zur Regulierung von KI im Kundenservice
Virginia steht kurz davor, ein landesweites Gesetz zu verabschieden, das die Nutzung von „hochriskanter“ KI reguliert. Dieses Gesetz, bekannt als das High-Risk Artificial Intelligence Developer and Deployer Act, wird neue Anforderungen an die Compliance für Unternehmen einführen, die KI-Systeme einsetzen, die Virginia-Verbraucher betreffen.
Wichtige Aspekte des Gesetzes
Das Gesetz betrifft KI-Systeme, die unabhängig wichtige Verbraucherentscheidungen treffen oder erheblich beeinflussen, insbesondere in Bereichen wie der Kundenservice-Automatisierung, Personalisierung und Empfehlungen.
Nachdem das Gesetz bereits vom Senat von Virginia verabschiedet wurde, muss es nun vom Gouverneur unterzeichnet werden, um am 1. Juli 2026 in Kraft zu treten.
Definition von „hochriskanter“ KI
Die Contact Center AI Association hat fünf Bereiche identifiziert, die als „hochriskant“ gelten und sich auf das Kundenerlebnis auswirken könnten:
- Automatisierte Entscheidungen über die Kundeneignung für Produkte oder Dienstleistungen.
- Generierung personalisierter finanzieller Angebote und Empfehlungen.
- Bestimmung des Zugangs zu Premium-Diensten oder Kundenstufen.
- Automatische Bearbeitung von Kundenstreitigkeiten und Ansprüchen.
- Einfluss auf Kreditgenehmigungen und Finanzierungsoptionen.
Das Gesetz konzentriert sich auf KI-Lösungen, die „insbesondere dazu bestimmt sind, autonom“ Entscheidungen zu treffen.
Einfluss auf Unternehmen
Obwohl diese Änderungen Unternehmen betreffen, die KI-Systeme einsetzen, gibt die 16-monatige Frist bis zur Regulierung den Teams im Kundenservice Zeit, sich darauf vorzubereiten.
Das Gesetz unterscheidet zwischen zwei Rollen: Entwicklern und Einsetzern von KI-Systemen. Unternehmen, die KI-gesteuerte Systeme entwickeln oder erheblich ändern, müssen angemessene Schritte unternehmen, um Diskriminierung zu verhindern, die Zwecke und Einschränkungen des Systems offenlegen und Dokumentationen zur Bias-Überwachung bereitstellen.
Regelungen für den Einsatz von KI
Unternehmen, die KI-Systeme für Kundeninteraktionen einsetzen, müssen eine Risikomanagementrichtlinie für KI-Tools haben, vor dem Einsatz Wirkungsanalysen durchführen und die Kunden informieren, wenn KI an Entscheidungsprozessen beteiligt ist.
Negative Entscheidungen müssen erläutert werden, und es muss die Möglichkeit zur Korrektur bestehen. Dokumentationen müssen mindestens drei Jahre aufbewahrt werden.
Generative KI und spezifische Vorschriften
Das Gesetz enthält auch spezifische Regelungen für den Einsatz von generativer KI (GenAI). Es wird verlangt, dass erkennbare Marker oder Identifikationsmethoden für GenAI verwendet werden, um synthetische Inhalte (Audio, Video oder Bilder) in Anwendungen des Kundenerlebnisses zu erstellen.
Dies gilt für KI-generierte Produktdemonstrationen, virtuelle Anproben, KI-gestützten Kundenservice und personalisiertes Marketing. Ausnahmen gelten für kreative Arbeiten und künstlerische Ausdrucksformen, die in Marketing und Markeninhalten verwendet werden dürfen.
Ausnahmen und Strafen
Für Unternehmen, die nicht von den Ausnahmen betroffen sind und gegen das neue Gesetz verstoßen, können nicht-willentliche Verstöße bis zu 1.000 Dollar pro Fall kosten, während willentliche Verstöße Strafen von bis zu 10.000 Dollar pro Fall nach sich ziehen können. Jeder betroffene Kunde wird als separater Verstoß betrachtet, was potenzielle Strafen erheblich steigern kann.
Ein aufkommender Trend in der KI-Regulierung
Virginia ist nicht der erste Bundesstaat, der spezifische KI-Vorschriften einführt. Colorado war der erste Bundesstaat in den USA, der umfassende Verbraucherschutzvorschriften zur Sicherstellung einer fairen und diskriminierungsfreien Nutzung von KI verabschiedete. Kalifornien, Illinois, Minnesota und Utah arbeiten derzeit ebenfalls an einer Form von KI-Regulierungen.
Außerhalb der USA hat die EU bereits einen KI-Gesetzesentwurf eingeführt, und Gartner prognostiziert, dass dieser möglicherweise das „Recht, mit einem Menschen zu sprechen“ in die Verbraucherschutzgesetze innerhalb der nächsten drei Jahre integrieren könnte.
Es ist klar, dass mit der Reifung der KI die Regulierung dieser Technologie komplexer und moderierter werden wird. Fachleute im Kundenservice und im Kundenerlebnis, die das Potenzial ihrer KI-Angebote maximieren möchten, müssen sich über alle neuesten Gesetze und Vorschriften informieren, um rechtliche und finanzielle Probleme zu vermeiden.
