FINRA veröffentlicht Übersicht über agentische KI im Finanzdienstleistungssektor
Am 27. Januar veröffentlichte eine Aufsichtsbehörde Beobachtungen zur aufkommenden Nutzung agentischer KI in der Finanzdienstleistungsbranche. KI-Agenten sind autonome Systeme, die in der Lage sind, zu planen, Entscheidungen zu treffen und Maßnahmen zu ergreifen, um Ziele und Vorgaben zu erreichen, ohne vordefinierte Regeln oder kontinuierliche menschliche Intervention. Dies unterscheidet sie von traditionellen Automatisierungstools.
Die Aufsichtsbehörde stellte fest, dass diese Agenten mit unterschiedlichen Graden an Autonomie und Aufsicht operieren können, jedoch über kein menschliches Urteilsvermögen und kein implizites Wissen verfügen. Dies kann Herausforderungen in Bezug auf Transparenz und Aufsicht mit sich bringen.
Risiken von KI-Agenten
- Die Möglichkeit, dass Agenten über ihren beabsichtigten Rahmen und ihre Befugnisse hinaus agieren.
- Schwierigkeiten bei der Prüf- und Nachvollziehbarkeit.
- Potentieller Missbrauch oder Offenlegung sensibler Daten.
- Unzureichendes Fachwissen für komplexe Aufgaben.
- Fehlangepasste Belohnungsfunktionen.
- Anhaltende Risiken, die einzigartig für generative KI sind, wie Vorurteile, Halluzinationen und Datenschutzbedenken.
Typen von KI-Agenten
- Gesprächsagenten, die über natürliche Sprache interagieren.
- Softwareentwicklungsagenten, die Kodierung und Infrastrukturmanagement automatisieren.
- Betrugsbekämpfungs- und Präventionsagenten.
- Handels- und Geldwäscheüberwachungsagenten.
- Prozessautomatisierungs- und Optimierungsagenten.
- Handelsausführungsagenten.
Zusätzlich wurde eine Infografik zu diesen verschiedenen Typen veröffentlicht.
