Künstliche Intelligenz im Kundenservice: Was bedeutet das EU AI-Gesetz für Kundenserviceteams?
Das EU AI-Gesetz ist der erste rechtliche Rahmen der Europäischen Union, der speziell zur Regulierung von künstlicher Intelligenz (KI) entwickelt wurde. Es wurde 2024 verabschiedet und führt einen risikobasierten Ansatz ein, der KI-Systeme in vier Kategorien einteilt: minimales, begrenztes, hohes und verbotenes Risiko. Das Hauptziel besteht darin, die grundlegenden Rechte zu schützen, Transparenz sicherzustellen und sichere Innovationen zu fördern, während schädliche oder manipulative Anwendungen von KI verhindert werden. Durch die Festlegung dieser Regeln strebt die EU an, ein globaler Standardsetter für vertrauenswürdige KI zu werden.
Obwohl bestimmte Bestimmungen bereits in Kraft sind, darunter allgemeine Bestimmungen zur KI-Bildung und das Verbot von Praktiken, die als inakzeptable Risiken gelten, wird das Gesetz ab dem 2. August 2026 vollständig anwendbar sein. Zu diesem Zeitpunkt wird es das weltweit erste umfassende Gesetz zur Regulierung von künstlicher Intelligenz sein. Für Kundenserviceteams bedeutet diese neue Regelung weitreichende Veränderungen. Obwohl Chatbots, Sprachbots oder virtuelle Assistenten nicht verboten werden, wird ihre Nutzung klar reguliert. Der Fokus liegt auf Transparenz, menschlicher Aufsicht und rechtlichen Sicherheiten.
KI kann unterstützen, aber nicht entscheiden
In Zukunft können KI-Systeme den Kundenservice unterstützen, jedoch dürfen sie nur dann unabhängig handeln, wenn Entscheidungen keine wesentlichen Konsequenzen für die Betroffenen haben. In allen anderen Fällen muss eine menschliche Kontrollinstanz beteiligt sein. Dies gilt insbesondere für komplexe oder sensible Angelegenheiten. Der sogenannte „Human-in-the-Loop“-Ansatz wird verpflichtend. Kunden müssen immer die Möglichkeit haben, von einer KI-gesteuerten Interaktion zu einem menschlichen Servicemitarbeiter weitergeleitet zu werden.
Wenn KI-Systeme ohne menschliche Kontrolle agieren oder Benutzer nicht klar über ihre Nutzung informiert werden, können drastische Konsequenzen folgen. Verstöße können mit Geldstrafen von bis zu 35 Millionen Euro oder 7 Prozent des globalen Jahresumsatzes bestraft werden, abhängig von der Schwere des Verstoßes und der Größe des Unternehmens.
Transparenz ist Pflicht
Unternehmen müssen klar und unmissverständlich kommunizieren, ob ein Kunde mit einem KI-System oder einem Menschen interagiert. Diese Informationen dürfen nicht verborgen oder unklar formuliert sein und müssen aktiv kommuniziert werden, beispielsweise durch Text- oder Sprachmeldungen.
Insbesondere bei Beschwerden, sensiblen Daten oder wichtigen Anfragen sind gesetzlich menschliche Eskalationsmöglichkeiten erforderlich. Dies stellt sicher, dass in kritischen Situationen keine automatisierten Entscheidungen ohne menschliche Aufsicht getroffen werden. Sobald eine Angelegenheit potenziell die Kundenrechte betrifft oder sensibel ist (z. B. Beschwerden, Datenänderungen oder Anträge), muss eine menschliche Eskalationsoption bestehen.
Im Wesentlichen bedeutet dies, dass ein vollständig KI-gestützter Kundenservice ohne die Möglichkeit, zu einem menschlichen Mitarbeiter zu eskalieren, in den meisten Fällen nicht mehr zulässig ist. Kunden müssen die Möglichkeit haben, mit einem Menschen zu sprechen, wenn sie dies wünschen. Daher reicht es nicht aus, sich ausschließlich auf einen Bot zu verlassen – die Möglichkeit zum Wechsel muss aktiv angeboten und leicht zugänglich sein.
Klassifikation nach Risikostufen
Das EU AI-Gesetz unterscheidet vier Risikostufen: minimales Risiko, begrenztes Risiko, hohes Risiko und verbotenes Risiko. Die meisten KI-Systeme, die im Kundenservice verwendet werden, wie Chatbots, die einfache Fragen beantworten oder Bestellungen entgegennehmen, fallen in die Kategorie des begrenzten Risikos. Die tatsächliche Klassifizierung hängt jedoch immer von einer Einzelfallbewertung ab, die auf der Art der Nutzung und den Auswirkungen auf die Benutzerrechte basiert. Diese Systeme unterliegen Transparenzpflichten. Benutzer müssen klar informiert werden, dass sie mit KI interagieren. Zudem muss sichergestellt werden, dass jederzeit auf Anfrage ein Mensch zur Verfügung steht.
Künstliche Intelligenz mit hohem Risiko, wie sie im Bankwesen oder in Antragsverfahren vorkommen, die den Zugang zu Beschäftigung erheblich beeinflussen (z. B. bei der Rekrutierung) oder in sensiblen Gesundheitsanwendungen, unterliegt erheblich strengeren Anforderungen. Dazu gehören umfassende Risikoanalysen, technische Dokumentationen und permanente menschliche Aufsicht. KI-Systeme mit verbotenem Risiko, wie solche, die Menschen manipulieren oder diskriminieren, sind vollständig verboten. Diese differenzierte Regelung zielt darauf ab, eine sichere, transparente und verantwortungsvolle Nutzung von KI im Kundenservice zu gewährleisten, ohne Innovationen zu behindern. Sie garantiert, dass KI im Kundenservice rechtskonform bleibt und das Vertrauen der Benutzer stärkt.
KI und Datenschutz Hand in Hand
Zusätzlich zu den Bestimmungen des EU AI-Gesetzes gelten weiterhin die Vorschriften der Datenschutz-Grundverordnung (DSGVO). Besonders dort, wo KI persönliche oder sensible Daten verarbeitet, müssen beide Rechtsrahmen berücksichtigt werden. Dies bedeutet, dass Unternehmen nicht nur technische, sondern auch organisatorische Maßnahmen ergreifen müssen. Alle Prozesse müssen dokumentiert, auditierbar und vollständig DSGVO-konform sein.
Die Anbieter von KI-Tools müssen auf die vollständige Einhaltung der europäischen DSGVO-Anforderungen überprüft werden. Dies ist besonders kritisch, wenn der Anbieter nicht in Europa ansässig ist (z. B. US-Unternehmen wie OpenAI). Hier können Probleme auftreten: Solange KI-Tools nur als „kleine Helfer“ verwendet werden und keine sensiblen oder persönlichen Daten verarbeitet werden, ist das Risiko in der Regel überschaubar. Wenn diese Dienste jedoch enger in die Kernprozesse des Unternehmens integriert werden, wie etwa den gesamten Kundenservice, erhöht sich das Risiko erheblich.
Wenn die vollständige DSGVO-Konformität nicht erreicht wird, können bei Verstößen hohe Geldstrafen verhängt werden. Im Falle einer Datenschutzprüfung kann die betreffende Abteilung, wie beispielsweise der gesamte Kundenservice, von den Behörden kurzfristig untersagt werden. Die Folgen für das Unternehmen können schwerwiegend sein.
Daher muss von externen Anbietern (insbesondere solchen außerhalb der EU) ein klarer Nachweis der DSGVO-Konformität gefordert werden. Dies umfasst einen klar formulierten Datenverarbeitungsvertrag (DPA), Informationen darüber, wo und wie Daten verarbeitet und gespeichert werden, und gegebenenfalls die Speicherung von Daten ausschließlich innerhalb Europas.
Unternehmen sollten auch Alternativen prüfen, die garantierte EU-Standorte und vollständige Datenschutzkonformität bieten, interne Prozesse und Datenflüsse nahtlos dokumentieren und Mitarbeiter im Umgang mit KI-Tools und sensiblen Daten schulen. Teilwissen oder eine unzureichende Prüfung der rechtlichen Situation können schnell zu erheblichen Risiken und Kosten führen.
Schulung der Mitarbeiter wird verpflichtend
Die Mitarbeiter spielen eine zentrale Rolle. Unternehmen sind verpflichtet, ihre Teams im Umgang mit KI-Systemen zu schulen. Kundenservicemitarbeiter müssen verstehen, wie die Tools funktionieren, Risiken erkennen und wissen, wann sie eingreifen müssen. Einige Unternehmen haben bereits begonnen, diesen Inhalt in ihre Einarbeitungsprozesse zu integrieren – nicht nur aus rechtlichen Gründen, sondern auch zur Sicherstellung der Servicequalität.
Zusammenfassend: Das EU AI-Gesetz hindert nicht an der Nutzung von künstlicher Intelligenz, sondern legt klare Regeln fest, wie KI verantwortungsbewusst und transparent eingesetzt werden sollte. Unternehmen müssen nun ihre Systeme, Prozesse und Teams bis spätestens 2. August 2026 entsprechend vorbereiten oder anpassen.
Für Unternehmen, die KI verantwortungsvoll nutzen, kann das EU AI-Gesetz einen klaren Wettbewerbsvorteil darstellen. Es stärkt das Vertrauen der Kunden und hilft, kostspielige Geldstrafen und Reputationsschäden zu vermeiden.
