AI-Agenten handeln zunehmend im Interesse der Verbraucher: Funktionieren die Regeln noch?
Verbraucher könnten bald alltägliche Entscheidungen an KI-Systeme delegieren. Von der Kündigung von Abonnements bis hin zum Anbieterwechsel oder der Aushandlung von Rückerstattungen sind KI-Agenten nicht nur dazu gedacht, Fragen zu beantworten, sondern auch, Maßnahmen im Namen des Nutzers zu ergreifen.
Die Attraktivität und die Herausforderungen
Diese Idee ist verlockend, wirft jedoch schwierige Fragen auf. Was passiert, wenn das System Fehler macht? Was, wenn es kommerzielle Anreize über die Interessen der Verbraucher priorisiert? Und wenn Menschen beginnen, sich auf KI-Agenten zur Entscheidungsfindung im Finanz- oder Einkaufsbereich zu verlassen, sind die bestehenden Verbraucherschutzregeln dann noch ausreichend?
Diese Fragen werden in neuen Forschungen beleuchtet, die eine Analyse zu „Agentic AI und Verbrauchern“ enthalten, sowie Leitlinien zur Einhaltung des Verbraucherschutzrechts bei der Verwendung von KI-Agenten.
Was ist ein KI-Agent?
Im Gegensatz zu traditionellen KI-Tools, die lediglich Eingaben beantworten, können KI-Agenten Aufgaben autonom planen und ausführen. Ein persönlicher Einkaufsagent könnte beispielsweise Ausgaben überwachen, Abonnements verfolgen und automatisch nach besseren Angeboten suchen sowie Dienstleistungen im Namen des Nutzers wechseln.
Solche Tools könnten finanzielle Verluste reduzieren, Zeit sparen und den Vergleich komplexer Angebote erleichtern. Dies erkennt auch die Forschung an, die das Potenzial von KI hervorhebt, das Wirtschaftswachstum zu fördern und das tägliche Leben der Menschen zu verbessern.
Die Bedenken der Regulierungsbehörden
Die Forschung hebt mehrere Risiken im Zusammenhang mit KI-Agenten hervor:
- Fehlgeleitete Anreize: Agenten könnten nicht als „treue Diener“ der Nutzer agieren und stattdessen kommerzielle Ziele wie Engagement oder Konversion optimieren.
- Halluzinationen: Falsche Ausgaben könnten zu Serviceunterbrechungen oder schlechten finanziellen Entscheidungen führen.
- Verlust der Verbraucherautonomie: Verbraucher könnten zu sehr auf automatisierte Entscheidungen angewiesen sein, die sie nicht leicht überprüfen können.
Wenn diese Systeme weit verbreitet sind, könnten sie als neue Vermittler zwischen Verbrauchern und Märkten fungieren und beeinflussen, wie Menschen Produkte und Dienstleistungen auswählen.
Der Ansatz der Regulierungsbehörden
Die Regulierungsbehörde erkennt die aktuelle Position als den drittgrößten KI-Markt weltweit an.
Derzeit wird keine umfassende neue Regelung in Betracht gezogen, die möglicherweise „übergriffig“ wäre. Stattdessen wird betont, dass Innovationen gefördert werden sollen, während die bestehenden Verbraucherschutzrahmen weiterhin gelten.
Wenn agentische KI-Systeme compliant entwickelt werden, die Verbraucher vertrauen können, sieht die Regulierungsbehörde die Möglichkeit, dass das Land „an der Spitze des vertrauenswürdigen agentischen Wandels“ steht.
Empfehlungen für Unternehmen
Zusammen mit der Forschung wurden Leitlinien für Unternehmen veröffentlicht, die KI-Agenten einsetzen. Insbesondere sollten Unternehmen:
- transparent sein, wann Verbraucher mit einem KI-Agenten interagieren.
- Agenten so gestalten, dass sie den Verbrauchergesetzen entsprechen, einschließlich der gesetzlichen Rechte gemäß dem Verbraucherschutzgesetz.
- die Leistung überwachen, mit regelmäßiger menschlicher Aufsicht, um Fehler oder irreführende Ausgaben zu vermeiden.
- schnell handeln, wenn Probleme auftreten, insbesondere wenn Agenten mit einer großen Anzahl von Verbrauchern interagieren.
Die Regulierungsbehörde nutzt ebenfalls KI
Die Leitlinien fallen auch mit dem eigenen Einsatz von KI-Tools durch die Regulierungsbehörde zusammen. Laut dem Entwurf des Jahresplans für 2026–2027 entwickelt die Behörde Systeme zur Erkennung von Verbraucherschäden und untersucht den Einsatz von KI zur Überprüfung auf Kartelle und mögliche Preisabsprachen in der öffentlichen Beschaffung.
Für Unternehmen, die mit KI-Agenten experimentieren, ist die Botschaft der Regulierungsbehörde klar: Innovation ist willkommen, aber die Verpflichtungen zum Verbraucherschutz bleiben bestehen.
