Automatisierte Entscheidungsfindung als frühes Ziel staatlicher KI-Regulierung
In Ermangelung umfassender Vorschriften für künstliche Intelligenz (KI) auf Bundesebene haben sich staatliche und lokale Gesetzgeber intensiv mit eigenen KI-Gesetzgebungen beschäftigt. Gesetze, die die automatisierte Entscheidungsfindung regulieren, sind als frühe Priorität der lokalen Regierung in den Vordergrund gerückt. Während es keine einheitliche Definition für „automatisierte Entscheidungsfindung“ gibt, kann sie als der Einsatz von KI, maschinellen Lernsystemen und/oder Algorithmen verstanden werden, um Entscheidungen ohne oder mit minimaler menschlicher Eingabe und Kontrolle zu treffen.
Die Gesetzgeber scheinen bestrebt zu sein, das wahrgenommene Risiko zu mindern, dass KI-Systeme verwendet werden, um wesentliche Entscheidungen zu treffen, die gegen Verbraucher diskriminieren oder sie anderweitig negativ beeinflussen, insbesondere im Hinblick auf Beschäftigung und Beschäftigungsmöglichkeiten.
Zusätzlich gewähren viele staatliche Datenschutzgesetze den Verbrauchern das Recht, der Datenverarbeitung für Profiling, das auf automatisierten Entscheidungen basiert, zu widersprechen.
Aktuelle Gesetze zur Regulierung der automatisierten Entscheidungsfindung
Derzeit haben Colorado, Illinois und New York City Gesetze erlassen, die die automatisierte Entscheidungsfindung durch KI-Systeme regulieren. Jedes dieser Gesetze zielt darauf ab, die Verwendung von KI-Entscheidungen zu verhindern, die zu Diskriminierung von Verbrauchern aufgrund geschützter Klassen führen.
Colorado
Der Colorado AI Act, der am 1. Februar 2026 in Kraft tritt, ist die erste umfassende KI-Gesetzgebung in den Vereinigten Staaten. Der Gesetzesentwurf richtet sich sowohl an private als auch an staatliche Stellen, die als Entwickler und Betreiber von hochriskanten KI-Systemen fungieren.
Wesentliche Verpflichtungen
Das Gesetz verpflichtet Entwickler und Betreiber von hochriskanten KI-Systemen zur Vorsicht, um Verbraucher vor bekannten oder vorhersehbaren Risiken der algorithmischen Diskriminierung zu schützen. Zu den Anforderungen gehören unter anderem Transparenz- und Berichtspflichten.
Illinois
Das Gesetz zur Regulierung automatisierter Entscheidungsfindung in Illinois erweitert das Human Rights Act, um diskriminierende Praktiken im Arbeitskontext zu verhindern. Die Änderungen treten am 1. Januar 2026 in Kraft.
Wesentliche Verpflichtungen
Arbeitgeber begehen eine Menschenrechtsverletzung, wenn sie KI-Systeme verwenden, die Diskriminierung basierend auf geschützten Klassen in verschiedenen Beschäftigungskontexten zur Folge haben.
New York City
Das Local Law 144 in New York City reguliert den Einsatz automatisierter Beschäftigungstools durch Arbeitgeber. Es verlangt von den Arbeitgebern, dass sie eine unabhängige Bias-Überprüfung durchführen und die Ergebnisse veröffentlichen, bevor sie KI-Systeme zur Entscheidungsfindung verwenden.
Staatliche Datenschutzgesetze
Staatliche Datenschutzgesetze schreiben spezifische Verpflichtungen für Unternehmen vor, die Profiling-Aktivitäten durchführen. Diese Verpflichtungen umfassen das Recht der Verbraucher, der Datenverarbeitung zu widersprechen, sowie die Durchführung von Datenschutzbewertungen.
Wesentliche Verpflichtungen
Die Gesetze gewähren Verbrauchern das Recht, der Verarbeitung ihrer persönlichen Daten zu widersprechen, und verlangen von den Unternehmen, auf diese Anfragen innerhalb von 45 Tagen zu reagieren.
Zusammenfassung
Die Regulierung automatisierter Entscheidungsfindung ist ein wachsendes Feld in den USA, in dem Staaten wie Colorado, Illinois und New York City führend sind. Mit der Einführung strengerer Gesetze zur automatisierten Entscheidungsfindung wird ein Rahmen geschaffen, der darauf abzielt, Verbraucher vor Diskriminierung zu schützen und sicherzustellen, dass KI-Systeme verantwortungsbewusst eingesetzt werden.
