Digitaler Fairnessgesetz: Transparenz- und Offenlegungspflichten für KI-Chatbots in Verbraucherinteraktionen
Das digitale Fairnessgesetz hat das Potenzial, die Art und Weise, wie Unternehmen mit Verbraucheranfragen und -beschwerden umgehen, grundlegend zu verändern. KI-Chatbots bieten eine Geschwindigkeit und Verfügbarkeit, die traditionelle Kanäle oft nicht erreichen können. Jedoch hat die Europäische Kommission in ihrer aktuellen Überprüfung des digitalen Fairnessgesetzes eine Lücke aufgezeigt: Verbraucher innerhalb der EU haben derzeit kein sektorübergreifendes Recht auf menschlichen Kontakt, wenn sie mit KI-Chatbots in Geschäftskontexten interagieren.
Gesetzliche Rahmenbedingungen
Gemäß dem Verbraucherrecht und der eCommerce-Richtlinie müssen Verbraucher Zugang zu traditionellen Kommunikationskanälen wie der postalischen Adresse, Telefonnummer und E-Mail-Adresse des Händlers haben. Der Europäische Gerichtshof hat klargestellt, dass Verbraucher in der Lage sein müssen, Händler schnell und effektiv direkt zu kontaktieren (Rechtssache C-649/17). Während Chatbots unterstützend wirken können, dürfen sie die erforderlichen menschlichen Kontaktmöglichkeiten nicht ersetzen.
KI-Chatbots als ergänzende Kommunikationskanäle
Die CRD verlangt von Händlern, ihre primären Kontaktdaten vor Vertragsabschluss offenzulegen, schließt jedoch nicht aus, dass KI-Chatbots als zusätzliche Kommunikationsmittel angeboten werden. Wo Chatbots es Verbrauchern ermöglichen, dauerhafte Aufzeichnungen ihrer Interaktionen zu behalten – einschließlich Zeitstempel – sollten Händler die Verbraucher darüber informieren. Dauerhafte Aufzeichnungen sind Informationen, die in einem Medium gespeichert sind, das für zukünftige Referenzen zugänglich und unveränderlich ist, wie z. B. E-Mails oder herunterladbare Dateien.
Menschliche Aufsicht und das Recht auf menschliches Eingreifen
Die EU-Gesetzgebung betont zunehmend die Bedeutung menschlicher Aufsicht über KI-Systeme, insbesondere über hochriskante Systeme. Ab August 2026 wird der KI-Gesetz eine menschliche Aufsicht über bestimmte hochriskante KI-Systeme vorschreiben, wie z. B. Werkzeuge zur Bestimmung der Berechtigung für wichtige öffentliche Dienstleistungen (z. B. Gesundheitsversorgung oder Sozialleistungen). Sektorale Gesetze im Finanzdienstleistungsbereich garantieren Verbrauchern das Recht auf menschliches Eingreifen, wenn sie mit automatisierten Systemen wie Chatbots interagieren.
Zusätzliche Überlegungen für Unternehmen
- KI-Transparenz und Benutzerrechte: Ab August 2026 müssen KI-Anbieter Nutzer informieren, wenn sie mit KI interagieren, es sei denn, dies ist offensichtlich. KI-generierte Inhalte müssen klar gekennzeichnet werden.
- Bewertungen und Rankings: Unternehmen müssen die Hauptfaktoren offenlegen, die das Ranking der von KI-Chatbots bereitgestellten Angebote bestimmen.
- Zugänglichkeit und Nichtdiskriminierung: Anbieter von Chatbots müssen die Zugänglichkeit für alle Verbraucher, einschließlich Menschen mit Behinderungen, berücksichtigen.
- Datenschutz und Privatsphäre: Die Interaktionen mit Chatbots müssen den Anforderungen der DSGVO entsprechen.
- Haftung und Verantwortlichkeit: Händler bleiben für alle Kommunikationen mit Verbrauchern voll verantwortlich, einschließlich derer, die über KI-Chatbots erfolgen.
- Grenzüberschreitende und mehrsprachige Überlegungen: Händler sollten klar angeben, in welchen Sprachen ihre Chatbots operieren können.
Das digitale Fairnessgesetz wird Unternehmen vor neue Herausforderungen stellen, insbesondere in Bezug auf die Einhaltung dieser sich entwickelnden Anforderungen. Die Beachtung dieser gesetzlichen Vorgaben wird nicht nur regulatorische Anforderungen erfüllen, sondern auch das Vertrauen der Verbraucher in einem zunehmend digitalen Markt stärken.
