Wenn nationale Sicherheit zu einem Schutzschild für die Umgehung von KI-Verantwortung wird
Mit der zunehmenden Verbreitung von Künstlicher Intelligenz (KI) in der staatlichen Sicherheit und Überwachung in Europa bleiben die rechtlichen Schutzmaßnahmen, die ihren Einsatz einschränken sollen, zunehmend zurück. EU-Mitgliedstaaten setzen KI ein, um Entscheidungsprozesse zu automatisieren, die Überwachung auszubauen und staatliche Macht zu konsolidieren. Viele dieser Anwendungen, insbesondere die biometrische Überwachung und algorithmische Risikobewertungen, sind im Hinblick auf die nationale Sicherheit weitgehend unreguliert. Tatsächlich haben breite Ausnahmen für nationale Sicherheit in bestehenden KI-Gesetzen, einschließlich Artikel 2 des EU-KI-Gesetzes, erhebliche regulatorische Lücken geschaffen. Zusätzlich ist der Begriff „nationale Sicherheit“ so vage definiert, dass Staaten grundlegende Rechte umgehen können, während sie KI mit minimaler Aufsicht einsetzen.
Vor dem Hintergrund eines sich schnell verändernden geopolitischen Umfelds und zunehmendem Autoritarismus werden nationale Sicherheitsrisiken zu einem bequemen Vorwand für unkontrollierte Überwachung und exekutive Autorität. Diese Dynamik setzt einen gefährlichen Präzedenzfall. EU-Regierungen und Kandidatenländer berufen sich auf nationale Sicherheit, um den Einsatz von KI in einer Weise zu rechtfertigen, die regulatorischer Kontrolle entgeht, insbesondere in der Überwachung und im Anti-Terrorismus. Die Einhaltung der Rechtsprechung des Europäischen Gerichtshofs ist entscheidend, da sie einen rechtlichen Kompass für die Definition nationaler Sicherheit bietet und klare Schwellenwerte festlegt, wann Staaten grundlegende Rechte außer Kraft setzen können. Ohne diese Richtlinien riskieren europäische Staaten, eine Sicherheitsarchitektur aufzubauen, die von KI angetrieben wird, aber von Verantwortung abgeschottet ist.
Die Rolle des Anti-Terrorismus in den Überlegungen zur nationalen Sicherheit
Während das bestehende EU-Recht keine konkrete Definition von nationaler Sicherheit bietet, hat der EuGH einige Leitlinien zu diesem Thema gegeben. Laut der Rechtsprechung des EuGH entspricht nationale Sicherheit dem „primären Interesse, die wesentlichen Funktionen des Staates und die grundlegenden Interessen der Gesellschaft durch die Prävention und Bestrafung von Aktivitäten zu schützen, die in der Lage sind, die grundlegenden verfassungsmäßigen, politischen, wirtschaftlichen oder sozialen Strukturen eines Landes ernsthaft zu destabilisieren, insbesondere wenn sie direkt die Gesellschaft, die Bevölkerung oder den Staat selbst bedrohen, wie etwa terroristische Aktivitäten.”
Diese Interpretation wurde in weiteren Urteilen verstärkt, indem der EuGH den Anti-Terrorismus eng mit nationaler Sicherheit verknüpft hat. Im Rahmen dieses rechtlichen Rahmens können EU-Mitgliedstaaten versuchen, jegliche Anti-Terrorismus-Initiativen im Namen der nationalen Sicherheit zu rechtfertigen. Der Gerichtshof hat jedoch auch Grenzen gesetzt. So stellte er fest, dass eine Bedrohung der nationalen Sicherheit „echt und gegenwärtig oder vorhersehbar“ sein muss, um die indiscriminierte Speicherung von Daten für einen bestimmten Zeitraum zu rechtfertigen. Daher unterliegen die Mitgliedstaaten bestimmten Bedingungen, wenn sie sich auf eine nationale Sicherheitsrechtfertigung berufen.
Fallstudien: Der Einsatz von KI durch Regierungen unter nationalen Sicherheitsrechtfertigungen
Die Identifizierung des Einsatzes von KI durch Regierungen zu nationalen Sicherheitszwecken ist herausfordernd, da solche Initiativen oft klassifiziert sind. Nachfolgend werden KI-gesteuerte Überwachungs- und Sicherheitsprogramme untersucht, die Regierungen unter nationalen Sicherheitsausnahmen rechtfertigen könnten, sowie Fälle, in denen nationale Sicherheit genutzt wurde, um möglicherweise Aufsichtspflichten und Compliance-Anforderungen zu umgehen.
In Frankreich hat das 2015 verabschiedete Intelligence-Gesetz den Behörden umfassende Befugnisse eingeräumt, algorithmische Analysen großer Metadatensätze durchzuführen, um terroristische Aktivitäten zu identifizieren. In den letzten zehn Jahren haben die Behörden den Umfang algorithmischer Systeme ausgeweitet, um Websites, Messaging-Apps und Websuchen auf Anzeichen extremistischer Aktivitäten zu überwachen. Der genaue Umfang und die Schutzmaßnahmen dieser Experimente bleiben undurchsichtig, was Bedenken aufwirft, ob Frankreich algorithmische Überwachung unter dem Vorwand der nationalen Sicherheit normalisiert.
Die französische Regierung hat auch die Befugnisse erweitert. Das neue Gesetz zur Bekämpfung ausländischer Einmischung von 2024 erlaubt den Einsatz eines experimentellen Algorithmus zur Überwachung verdächtiger Aktivitäten im Zusammenhang mit ausländischer Einmischung. Die parlamentarische Geheimdienstkommission beschreibt ausländische Einmischung als eine „allgegenwärtige und anhaltende Bedrohung“ und rechtfertigt algorithmische Überwachung als notwendig zum Schutz der nationalen Sicherheit.
Grenzbehörden und Reisebehörden haben ebenfalls KI-basierte Risikobewertungen übernommen. Seit 2016 nutzen französische Reisebehörden Risikoanalysen der Passagierdaten zur Kennzeichnung von Reisenden, die aufgrund ihrer Reiserouten und/oder Zahlungsmethoden als verdächtig gelten. Solche Algorithmen könnten jedoch Vorurteile gegenüber marginalisierten Gruppen reproduzieren, insbesondere wenn die Trainingsdaten nicht repräsentativ sind.
Offene Fragen zu rechtlichen und regulatorischen Herausforderungen
Das EU-KI-Gesetz, die EU-Charta der Grundrechte und die bestehende Rechtsprechung des EuGH können als nützliche Instrumente dienen, um staatliche Macht und Überwachung einzuschränken. Angesichts der zunehmenden Verwendung von KI für nationale Sicherheitszwecke ist es entscheidend, zu verstehen, wie bestehende Vorschriften und Rechtsprechung auf diese Technologien angewendet werden können. Es sind wichtige Fragen zu beachten, während die Zivilgesellschaft für mehr Verantwortung im Einsatz von KI für nationale Sicherheitszwecke eintritt.
Empfehlungen für Verantwortung und Aufsicht
Um grundlegende Rechte in KI-gestützten nationalen Sicherheitsinitiativen zu schützen, sollte die Zivilgesellschaft folgende Empfehlungen in Betracht ziehen:
- Zusammenarbeit mit investigativen Journalisten, um Informationen über KI-basierte nationale Sicherheitsinitiativen zu sammeln. Wichtige Fragen umfassen: Sind Informationen öffentlich verfügbar? Was sind die Ziele des KI-Systems und der Nutzung durch die Regierung für nationale Sicherheit? Was sind die Auswirkungen solcher Nutzung und wie kann das KI-System missbraucht werden?
- Strategische Rechtsstreitigkeiten verfolgen. Für die strikte Anwendung der Bedingungen der EuGH-Rechtsprechung auf nationale Sicherheitsrechtfertigungen eintreten, die unter dem EU-KI-Gesetz genutzt werden.
- Institutionelle Akteure einbeziehen, um deren Perspektiven besser zu verstehen und die Advocacy-Strategien zu informieren.
- Übergreifende Koalitionen mit zivilgesellschaftlichen Organisationen bilden, um aufkommende Trends und Entwicklungen auf regionaler und globaler Ebene besser zu verstehen.
Die Ausnahmen für nationale Sicherheit erfordern dringende Grenzen. Artikel 2 des EU-KI-Gesetzes ermöglicht es Regierungen, KI-Systeme als nationale Sicherheitsinstrumente zu klassifizieren, wodurch sie Transparenz, Aufsicht und grundlegende Rechte umgehen können. Diese Lücke birgt das Risiko, nationale Sicherheit als allgemeine Ausrede für Massenüberwachung und unkontrollierte algorithmische Entscheidungen zu missbrauchen.
