Vor dem AI Impact Summit 2026 in Indien: Bericht warnt vor der Nutzung von KI für Hass und Überwachung
Ein Bericht, der vor dem AI Impact Summit 2026 in Indien veröffentlicht wurde, äußert Bedenken hinsichtlich des Umgangs des Landes mit der KI-Governance. Der Bericht trägt den Titel „AI Governance at the Edge of Democratic Backsliding“ und weist auf die Lücke zwischen Indiens erklärtem Engagement für inklusive und demokratische KI und der berichteten Nutzung von KI-Systemen hin, die Minderheiten und marginalisierte Gemeinschaften betreffen.
Rolle der politischen Akteure
Der Bericht hebt die Rolle einer politischen Partei hervor, die KI-generierte Videos und Bilder verwendet hat, um kommunale Narrative zu verbreiten und Oppositionsführer ins Visier zu nehmen. Ein Beispiel ist ein KI-generiertes Video, das einen Politiker zeigt, der auf zwei sichtbar muslimische Männer schießt. Dieses Video wurde nach weitreichender Kritik gelöscht.
Überwachung und Gesichtserkennung
Über die Online-Inhalte hinaus stellen die Berichte fest, dass Strafverfolgungsbehörden in mehreren Bundesstaaten Gesichtserkennungssysteme und prädiktive Polizeisoftware nutzen. Diese Einsätze erfolgen ohne unabhängige Aufsicht, richterliche Genehmigung und Transparenz.
Technologische Risiken
Ein weiterer Punkt ist die Entwicklung eines KI-Systems, das angeblich dazu dient, bestimmte Gruppen durch die Analyse von Sprachmustern zu identifizieren. Experten warnen, dass solche Technologien möglicherweise gegen bestimmte Gemeinschaften eingesetzt werden könnten, was zu ungerechtfertigten Abschiebungen führen kann.
Regierungsrichtlinien und Empfehlungen
Der Bericht überprüft auch die im November 2025 veröffentlichten KI-Governance-Richtlinien Indiens. Diese basieren auf freiwilliger Einhaltung und priorisieren Innovation über Vorsicht. Obwohl die Richtlinien den Schutz verwundbarer Gruppen ansprechen, werden spezifische Risiken für religiöse Minderheiten und andere Gruppen nicht ausreichend behandelt.
Der AI Impact Summit 2026 ist offiziell auf die Themen „Demokratisierung von KI und Überbrückung der KI-Kluft“ ausgerichtet. Der Bericht fordert die teilnehmenden Führungskräfte auf, durchsetzbare Vorschriften für den gesamten Lebenszyklus der KI zu erlassen, die Nutzung von KI für Massenüberwachung und prädiktive Polizeiarbeit zu verbieten und die betroffenen Gemeinschaften in die Governance-Diskussionen einzubeziehen.
