Ihre Fragen beantwortet: Wo wir bei der KI-Regulierung stehen und wie es weitergeht
Ob Sie es in Ihrem täglichen Leben bemerken oder nie darüber nachdenken – künstliche Intelligenz (KI) betrifft uns alle. Von der Beantragung eines Kredits bis zum Besuch beim Arzt werden KI-Systeme oft im Hintergrund eingesetzt, um Entscheidungen zu treffen, die uns auf nicht-offenbare Weise beeinflussen.
Trotz der wachsenden Reichweite der KI und der Vielfalt der Tools und Systeme, die sie umfasst, sind die Vorschriften, die regeln, wie sie entwickelt und eingesetzt werden und wie betroffene Personen informiert werden, besorgniserregend spärlich. Ohne Regulierung können diese Systeme Ihre Fähigkeit, Ihre Daten zu kontrollieren, einschränken oder Diskriminierung bei Einstellungs- und Beschäftigungspraktiken verstärken. Angesichts der ernsthaften Implikationen für die Bürgerrechte ist die Stärkung des Schutzes keine Option mehr.
Die Notwendigkeit weiterer Regulierung der KI-Nutzung
KI wird oft verwendet, um Entscheidungen über unser Leben zu treffen, ohne dass eine transparente Offenlegung erfolgt. Wenn Sie beispielsweise einen Kredit beantragen oder sich um eine Stelle bewerben, könnten Banken oder Arbeitgeber KI verwenden, um Ihre Unterlagen zu analysieren, bevor ein echter Mensch dies tut. Auch beim Arztbesuch kann Ihr Anbieter einen KI-Schreiber verwenden, um Notizen zu Ihrem Gespräch zu machen. Regierungsbehörden nutzen KI und andere automatisierte Systeme, um entscheidende Entscheidungen darüber zu treffen, wer welche Leistungen erhält. KI sollte strengen Standards unterzogen werden, wenn es um das Leben der Menschen geht.
Gefahren für unsere Bürgerrechte durch unregulierte KI
Ohne sorgfältige Aufsicht haben KI-Systeme, die zur Entscheidungsfindung verwendet werden, bewiesen, dass sie bestehende systematische Ungleichheiten perpetuieren. Es wurde festgestellt, dass KI-Tools bei der Sichtung von Bewerbungen oder der Bewertung potenzieller Mitarbeiter unfair gegen Menschen aus Minderheiten, Menschen mit Behinderungen, neurodiverse Personen und Menschen aus einkommensschwachen Hintergründen diskriminieren können. Der Einsatz von KI in Bereichen wie Einstellung, Wohnen und Strafverfolgung bedeutet, dass Ihnen ein Job oder eine Wohnung verweigert werden kann – oder Sie sogar fälschlicherweise verhaftet werden, wenn KI-basierte Systeme, die Gesichtserkennungstechnologie verwenden, die schwerwiegende Rassenvoreingenommenheiten aufweisen und oft ohne angemessene Sicherheitsvorkehrungen verwendet werden, Verdächtige falsch identifizieren.
Das ist kein Zufall und nicht unvermeidlich. Es gibt eine unglaublich vielfältige Palette von Tools und Systemen, die oft als „KI“ kategorisiert werden, und die Auswirkungen auf die Bürgerrechte dieser Systeme hängen vom Kontext ab, in dem sie verwendet werden. Während einige dieser Systeme in relativ harmlosen Weisen eingesetzt werden, schaffen voreingenommene KI-Systeme in anderen Fällen ernsthafte Risiken für die Diskriminierung von Menschen in entscheidenden Lebenssituationen. Die Menschen, Unternehmen und Institutionen, die KI-Systeme entwickeln und bereitstellen, sind dafür verantwortlich, diese Vorurteile zu ermöglichen, aber strengere Richtlinien und Vorschriften können sie zur Verantwortung ziehen und sicherstellen, dass diese Praktiken nicht fortgesetzt werden.
Wie politische Entscheidungsträger und Befürworter die Herausforderungen der KI angehen können
In einem neuen Bericht wird eine Vielzahl von KI-Vorschriften hervorgehoben, die von politischen Entscheidungsträgern im ganzen Land vorgeschlagen wurden. Es gibt Gesetzentwürfe, die die Nutzung von KI in bestimmten Bereichen wie Bildung oder Wahlen regulieren, sowie umfassendere Vorschläge, die den bereits bestehenden Bürgerrechtsschutz, der für die KI-Nutzung in hochriskanten Bereichen gilt, weiter ausweiten.
Unser Bericht zeigt auch, wie Befürworter und politische Entscheidungsträger computergestützte Tools anwenden können, um Trends zu erkennen und Ähnlichkeiten in der wachsenden KI-Politiklandschaft zu verfolgen. Zwei zentrale Empfehlungen zur Bewältigung der Herausforderungen, die bei der Durchführung computergestützter KI-Politikanalysen auftreten, wurden erarbeitet:
- Wir fordern Forscher und politische Mitarbeiter auf, zusammenzuarbeiten, um standardisierte Formate und Strukturen für Gesetzestexte in verschiedenen Jurisdiktionen zu schaffen, um die computergestützte Analyse von Daten zu erleichtern.
- Wir ermutigen Forscher und Befürworter, eine mehrsprachige Perspektive in die Analyse der in den USA eingeführten KI-Gesetzgebung einzubeziehen.
Digitale Rechte bei automatisierten Entscheidungen
Ob Entscheidungen von einem Menschen oder einer KI getroffen werden, bestehen seit langem geltende Bundesgesetze gegen Diskriminierung, die Diskriminierung bei der Einstellung und Beschäftigung aufgrund von Rasse oder ethnischer Zugehörigkeit, Geschlecht, sexueller Orientierung oder Geschlechtsidentität, Behinderung und anderen geschützten Merkmalen verbieten. Neben den Bundesvorschriften haben eine wachsende Anzahl von Bundesstaaten Gesetze verabschiedet, die regeln, wie Arbeitgeber und Drittanbieter Ihre persönlichen Daten während der Einstellung sammeln, verwenden und weitergeben. Diese Gesetze geben Ihnen mehr Kontrolle über Ihre Informationen und mehr Transparenz darüber, ob automatisierte Systeme Sie bewerten – und wie diese Systeme die Beschäftigungsentscheidungen beeinflussen können.
Weitere Informationen über digitale Diskriminierung und Ihre digitalen Rechte finden Sie auf unserer Seite zu Ihren Rechten.
