Neue KI-Regulierungen für hochriskante Entscheidungen in New York
In New York streben die Gesetzgeber an, neue Richtlinien für den Einsatz von künstlicher Intelligenz (KI) zu schaffen, insbesondere in Kontexten, in denen sie bedeutende Entscheidungen trifft. Dies wurde in einer Anhörung des staatlichen Legislativorgans erörtert, an der Vertreter von Gewerkschaften und der Technologiebranche teilnahmen.
Hintergrund und Herausforderungen
In den letzten Jahren gab es einen Anstieg von Berichten über den Einsatz von KI-Tools in hochriskanten Bereichen. Diese Technologien können unbeabsichtigte Schäden verursachen, insbesondere wenn sie diskriminierende Ergebnisse in Bereichen wie Beschäftigung, Wohnraum und Gesundheitsversorgung liefern. Beispielhaft werden KI-Tools bereits in Callcentern eingesetzt, um Anrufe zu überwachen und Feedback zu geben, sowie in Krankenhäusern, um Diagnosen zu stellen.
Vorschläge zur Regulierung
Ein Gesetzesentwurf, der als New York AI Act bekannt ist, soll sicherstellen, dass Entwickler und Nutzer von KI-Tools angemessene Maßnahmen ergreifen, um algorithmische Diskriminierung in hochriskanten Entscheidungen zu vermeiden. Der Vorschlag umfasst regelmäßige Prüfungen durch unabhängige Dritte, um potenzielle Diskriminierungsrisiken zu bewerten und sicherzustellen, dass die Vorschriften des Staates eingehalten werden.
Stimmen aus der Technologiebranche
Vertreter der Technologiebranche äußerten Bedenken hinsichtlich des Gesetzes, da sie befürchten, dass es eine regulatorische Belastung schaffen und Innovationen behindern könnte. Sie plädierten dafür, dass eine nationale Regelung für KI geschaffen werden sollte, anstatt auf staatlicher Ebene zu regulieren.
Fazit
Die Gesetzgeber haben bis Anfang Juni Zeit, um über diese Maßnahmen zu entscheiden, während sie gleichzeitig andere Gesetzentwürfe prüfen, die den Einsatz von KI in verschiedenen Bereichen regulieren sollen. Die Diskussion über die Regulierung von KI ist entscheidend, um sicherzustellen, dass der Einsatz dieser Technologien sowohl effektiv als auch ethisch vertretbar ist.
