Watchdog-Bericht über den Einsatz von KI zur Zielgruppenverfolgung und Überwachung
Eine gemeinsame Studie hat ernsthafte Bedenken hinsichtlich des politischen und sozialen Einsatzes von künstlicher Intelligenz in Indien geäußert, insbesondere in Bezug auf die Auswirkungen auf muslimische Gemeinschaften. Der Bericht mit dem Titel „AI Governance im Zeitalter des demokratischen Rückschritts“ thematisiert die Verwendung generativer KI-Tools zur Verbreitung von anti-minderheitlichen Narrativen und zur Stärkung von Überwachungssystemen.
Politische Missbrauchsrisiken
Der Bericht beschreibt, wie kreative KI von politischen Akteuren eingesetzt wird, um soziale Spaltungen zu vertiefen. Ein Beispiel aus Indien zeigt, dass ein KI-generiertes Video, das Gewalt gegen Muslime darstellt, auf offiziellen sozialen Medien veröffentlicht wurde. Solche Inhalte werden als gefährlich angesehen, da sie Hass normalisieren und Angst unter den Bürgern schüren.
Schutzmaßnahmen und Ungleichheiten
Der Bericht hebt auch die Schwächen in den Schutzmaßnahmen populärer generativer KI-Systeme hervor. Viele weit verbreitete Tools zeigen eine unzureichende Kontrolle in Bezug auf indische Sprachen und lokale soziale Kontexte. Infolgedessen können schädliche Inhalte leichter zirkulieren.
Überwachungstechnologien
Ein weiteres zentrales Anliegen ist der Einsatz von Gesichtserkennungstechnologie durch Polizeikräfte. Der Bericht warnt vor den unzureichenden Informationen über die Beschaffung dieser Systeme und deren Genauigkeit, was zu schwerwiegenden Folgen für die betroffenen Personen führen kann.
Wohlfahrtsprogramme und algorithmische Exklusion
Der Bericht hebt auch Probleme bei der Bereitstellung von Wohlfahrtsleistungen hervor, da fehlerhafte KI-Systeme dazu führen können, dass berechtigte Begünstigte von Regierungsprogrammen ausgeschlossen werden. Diese Systeme sind oft intransparent und erfordern von den Bürgern, ihre Berechtigung nachzuweisen.
Einfluss auf den Wahlprozess
Der Bericht thematisiert auch den Einfluss von KI auf den Wahlprozess und die mangelnde Transparenz bei der Kennzeichnung von „verdächtigen“ Wählern. Diese Intransparenz könnte Wählerrechte gefährden, insbesondere in Gemeinschaften, die bereits mit Misstrauen konfrontiert sind.
Schlussfolgerung
Der Bericht schließt mit Empfehlungen für Regierungen, die Industrie und die Zivilgesellschaft, um eine transparente Politikgestaltung und die Einhaltung internationaler Menschenrechtsstandards zu fördern. Die Notwendigkeit, die KI-Governance an demokratischen Werten auszurichten, wird als entscheidend erachtet, um das Vertrauen in eine vielfältige Gesellschaft aufrechtzuerhalten.
