Einführung
Ein US-Bundesstaat hat eine neue Verordnung erlassen, die staatliche Behörden anweist, neue Standards für die Beschaffung und Nutzung von Künstlicher Intelligenz (KI) zu entwickeln. Ziel ist es, zusätzliche Schutzmaßnahmen für Unternehmen, die KI-Lösungen für öffentliche Aufträge anbieten, einzuführen.
Kernanalyse der Verordnung
Beschaffungsbezogene Rahmenbedingungen
Die Verordnung verlangt von den Behörden, KI-bezogene Sicherheits- und Risikomanagementanforderungen in den Vergabeverfahren zu verankern. Unternehmen sollen Zertifizierungen vorlegen, die zeigen, dass ihre KI-Systeme Kontrollen gegen schädliche oder unrechtmäßige Inhalte, algorithmische Voreingenommenheit und Auswirkungen auf Grundrechte enthalten.
Zusätzliche Governance‑Maßnahmen
Weiterhin wird die Möglichkeit geprüft, Wasserzeichen für synthetische Inhalte zu verwenden und interne Aufsichtsmechanismen für den KI‑Einsatz zu stärken. Die Behörden erhalten zudem Befugnisse, eigenständig Lieferkettenrisiken zu bewerten, auch wenn Bundesbehörden andere Entscheidungen getroffen haben.
Implikationen und Risiken für Auftragnehmer
Auswirkungen auf staatliche Auftragnehmer
Unternehmen, die mit dem US-Bundesstaat zusammenarbeiten, müssen künftig KI‑bezogene Zusicherungen, Zertifizierungen und Compliance‑Verpflichtungen in ihren Vertragsunterlagen berücksichtigen. Der Fokus liegt auf nachweisbaren Risikomanagement‑Praktiken, insbesondere in Bezug auf Bias‑Minderung, Sicherheit und Transparenz.
Spannungsfeld zwischen staatlicher und bundesweiter Regulierung
Da der Bund ebenfalls KI‑Beschaffungsrichtlinien entwickelt, kann es zu Divergenzen zwischen den Anforderungen des Bundes und des US-Bundesstaates kommen. Diese können zu widersprüchlichen Verpflichtungen und erhöhtem Compliance‑Aufwand für Unternehmen führen, die in beiden Märkten tätig sind.
Fazit
Die neue Verordnung signalisiert, dass die Beschaffung von KI‑Lösungen ein zentrales Instrument zur Durchsetzung von Sicherheits- und Ethikstandards wird. Unternehmen sollten ihre internen Governance‑Strukturen prüfen und anpassen, um sowohl den staatlichen als auch den bundesweiten Erwartungen gerecht zu werden, und gleichzeitig mögliche Konfliktpotenziale zwischen den Regulierungsrahmen im Auge behalten.
