Der Colorado AI Act: Fortschritte und Rückschläge

Der Colorado AI Act Shuffle: Ein Schritt nach vorne, zwei Schritte zurück

Colorado trat im vergangenen Jahr in die tiefen Gewässer der KI-Regulierung mit dem Colorado AI Act (Senatsgesetz 24-205) ein, einem umfassenden Gesetz, das darauf abzielt, die Risiken von künstlicher Intelligenz (KI) und automatisierten Entscheidungssystemen (ADS) zu regulieren. Das Gesetz wurde als Schutzmaßnahme gegen die unkontrollierte Nutzung von KI bei hochriskanten Entscheidungen – wie Einstellung, Kreditvergabe, Wohnraum und mehr – angepriesen und soll die Risiken von KI managen und gleichzeitig Innovationen fördern.

Allerdings war die Einführung, wie bei jeder ehrgeizigen Gesetzgebung, insbesondere im Technologiebereich, alles andere als reibungslos. Branchenverbände befürchten, dass das Gesetz zu starr und vage ist, während Verbrauchervertreter argumentieren, dass es nicht weit genug geht. Um die Situation zu klären, initiierte der Gouverneur von Colorado die Colorado Artificial Intelligence Impact Task Force, eine Gruppe von Politikern, Brancheninsidern und Rechtsexperten, die beauftragt wurden, herauszufinden, wo das Gesetz funktioniert, wo nicht und wie es verbessert werden kann.

Die Kritiken

Der Colorado AI Act wurde als bahnbrechend gelobt, aber nicht jeder war begeistert. Einige der größten Beschwerden über die Gesetzgebung umfassten:

• Zu breit, zu vage – Schlüsselbegriffe wie „algorithmische Diskriminierung“ und „konsequente Entscheidungen“ sind interpretationsbedürftig, was Unternehmen in Ungewissheit über ihre Konformität lässt;
• Eine unfaire Belastung für kleine Unternehmen – Einige argumentieren, dass die Compliance-Burden unverhältnismäßig auf kleinere KI-Startups fallen, die nicht die rechtliche Unterstützung von großen Tech-Unternehmen haben;
• Transparenz vs. Geschäftsgeheimnisse – Die Offenlegungsanforderungen des Gesetzes haben im privaten Sektor Bedenken aufgeworfen, da Unternehmen möglicherweise gezwungen werden, proprietäre KI-Modelle und andere vertrauliche Informationen offenzulegen;
• Durchsetzungsproblematik – Die Befugnisse des Generalstaatsanwalts und der Zeitrahmen für die Umsetzung des Gesetzes bleiben umstritten. Einige sagen, das Gesetz gehe zu schnell, andere meinen, dass es nicht genügend Durchschlagskraft hat.

Was die Task Force herausfand

Zwischen August 2024 und Januar 2025 hörte die Task Force von Gesetzgebern, Akademikern, Technologieführern, Verbrauchervertretern und Regierungsbeamten. Ihr Bericht kategorisiert die Probleme des AI Act in vier Gruppen:

1. Probleme mit offensichtlichem Konsens über vorgeschlagene Änderungen

Einige relativ geringfügige Anpassungen stoßen auf universelle Zustimmung, darunter:

• Die Klärung von mehrdeutigen KI-bezogenen Definitionen;
• Die Anpassung der Dokumentationsanforderungen für Entwickler und Implementierer, um unnötigen bürokratischen Aufwand zu vermeiden.

2. Probleme, bei denen Konsens über Änderungen mit zusätzlicher Zeit erreichbar erscheint

Einige Bedenken sind berechtigt, aber der Teufel liegt im Detail und erfordert mehr Zeit und Verhandlungen:

• Die Neudefinition von „konsequenten Entscheidungen“ – das Ziel? Sicherstellen, dass das Gesetz tatsächlich hochriskante KI-Anwendungen anspricht, ohne über das Ziel hinauszuschießen;
• Feinabstimmung der Ausnahmen – wer genau sollte dem Gesetz unterliegen? Die Antwort ist nicht einfach, und sowohl die Bedenken der Industrie als auch der Verbraucherschutz müssen ausgewogen werden;
• Timing und Umfang der KI-Auswirkungsbewertungen – wann und wie sollten Unternehmen verpflichtet werden, Risiken zu bewerten? Die aktuellen Fristen und Anforderungen könnten Anpassungen benötigen, um die Compliance praktikabler zu gestalten.

3. Probleme, bei denen Konsens von der Umsetzung und Koordination abhängt

Einige vorgeschlagene Änderungen können nicht isoliert erfolgen – sie sind mit anderen Bestimmungen verwoben. Daher hängt die Zustimmung zu Änderungen von breiteren Kompromissen ab. Beispiele umfassen:

• Die Überarbeitung der Definition von „algorithmischer Diskriminierung“, ohne die Verbraucherrechte und die Durchsetzbarkeit zu gefährden;
• Die Bestimmung, welche KI-bezogenen Daten Unternehmen mit dem Generalstaatsanwalt teilen müssen – und unter welchen Bedingungen;
• Das Gleichgewicht zwischen Risikomanagementpflichten und praktischen Umsetzungsherausforderungen, einschließlich der Angleichung der Anforderungen an das Risikomanagement von Implementierern an die Verpflichtungen zur Auswirkungsbewertung.

4. Probleme mit fester Meinungsverschiedenheit

Und dann gibt es die harten Kämpfe, in denen die Task Force feststellte, dass Branchenverbände, Verbrauchervertreter und politische Entscheidungsträger hinsichtlich vorgeschlagener Änderungen weit auseinanderliegen und „feste Meinungsverschiedenheiten“ bestehen, sodass die Task Force keine substanziellen Empfehlungen abgeben kann:

• Das Dilemma der „Sorgfaltspflicht“ – sollten KI-Entwickler und -Implementierer eine formale Verantwortung haben, Schäden zu verhindern, oder sollten ihre Verpflichtungen weniger streng sein?
• Das Dilemma des „substanziellen Faktors“ – wie sollte der Colorado AI Act definieren, welche KI-Tools reguliert werden?
• Die Ausnahme für kleine Unternehmen – sollten Startups und kleinere KI-Unternehmen mit weniger als 50 Mitarbeitern von einigen Compliance-Anforderungen befreit werden?
• Das „Fix-It“-Fenster – sollten Unternehmen die Möglichkeit haben, Verstöße zu beheben (ein „Recht zur Heilung“), bevor die Durchsetzung einsetzt?
• Die Regelungskompetenz des Generalstaatsanwalts – wie viel Kontrolle sollte der Generalstaatsanwalt über die Gestaltung der KI-Regulierung durch Regelsetzung und Durchsetzung haben?

Fazit

Der Colorado AI Act wird nicht verschwinden, aber es ist wahrscheinlich, dass er einer ernsthaften Überarbeitung unterzogen wird. Der Bericht der Task Force skizziert einen Fahrplan für legislative Anpassungen – beginnend mit einfachen Lösungen und hin zu Kompromissen bei den heikleren Punkten.

Die große Erkenntnis? Colorados KI-Regulierungen sind noch ein Work in Progress, und der Kampf um die Regulierung von KI – ohne die Innovation zu ersticken – hat gerade erst begonnen. Während Colorado an der Spitze der KI-Regulierung steht, geht es bei diesem Prozess nicht nur um die Gesetze eines Bundesstaates – es ist ein Testfall dafür, wie KI im ganzen Land geregelt werden wird. Erwarte weitere Überarbeitungen, weitere Debatten und viele Lektionen für andere Bundesstaaten, die von der Seitenlinie zuschauen.