Zoom auf KI – #14: Durchsetzung des KI-Gesetzes
Das europäische KI-Gesetz trat am 1. August 2024 in Kraft. Es etabliert einen risikobasierten Ansatz für Künstliche Intelligenz (KI) und verbietet bestimmte Praktiken, die als inakzeptabel gelten, wie z.B. soziale Bewertung oder die Manipulation menschlichen Verhaltens. Zudem werden spezifische Anforderungen an hochrisikobehaftete KI-Systeme gestellt, die in Bereichen wie Gesundheit, Beschäftigung oder Strafverfolgung eingesetzt werden.
Eine der größten Herausforderungen ist die praktische Durchsetzung des Gesetzes. Das KI-Gesetz sieht sowohl eine zentrale als auch eine dezentrale Struktur für die Durchsetzung seiner Bestimmungen vor. Die Hauptakteure sind die nationalen Marktüberwachungsbehörden für KI-Systeme, die Europäische Kommission, die durch das KI-Büro agiert, sowie der Europäische Datenschutzbeauftragte (EDPS) für Unionseinrichtungen, -agenturen und -organe.
1. Marktüberwachungsbehörden
Die Mitgliedstaaten spielen eine entscheidende Rolle bei der Durchsetzung des KI-Gesetzes. Jeder Mitgliedstaat muss mindestens eine benachrichtigende Behörde und mindestens eine Marktüberwachungsbehörde benennen, die zusammen die nationalen zuständigen Behörden bilden:
- Benachrichtigende Behörden: Sie intervenieren in der Vorbereitungsphase von KI-Systemen und sind verantwortlich für die Entwicklung und Anwendung des Rahmens für Konformitätsbewertungsstellen.
- Marktüberwachungsbehörden: Diese Behörden überwachen KI-Systeme nach ihrer Implementierung und haben die Befugnis, Sanktionen bei Nichteinhaltung zu verhängen.
Die Marktüberwachungsbehörden können von sich aus oder auf Beschwerde hin tätig werden. Jeder, der einen Verstoß gegen das KI-Gesetz vermutet, kann eine Beschwerde bei der zuständigen Marktüberwachungsbehörde einreichen, was das Potenzial zur Missbrauchseröffnung birgt.
Mitgliedstaaten müssen ihre nationalen zuständigen Behörden bis zum 2. August 2025 benennen.
2. Europäische Kommission und KI-Büro
Die Kommission hat exklusive Befugnisse zur Überwachung und Durchsetzung der Verpflichtungen für allgemeine KI-Modelle. Diese Aufgaben werden dem KI-Büro, einer speziellen Funktion innerhalb der Kommission, übertragen. Die Kommission kann auf eigene Initiative handeln, Beschwerden von Anbietern von allgemeinen KI-Modellen entgegennehmen oder qualifizierte Warnungen vom wissenschaftlichen Gremium erhalten.
Das KI-Büro hat die gleichen Ermittlungs- und Korrekturbefugnisse wie die Marktüberwachungsbehörden. Es kann Dokumente und Informationen von Anbietern anfordern, Bewertungen zur Einhaltung durchführen und Anbieter zur Ergreifung von Korrekturmaßnahmen auffordern.
3. Europäischer Datenschutzbeauftragter (EDPS)
Das KI-Gesetz ernennt den EDPS zur zuständigen Marktüberwachungsbehörde für Unionseinrichtungen und -agenturen. Diese Behörde hat die gleichen Ermittlungs- und Korrekturbefugnisse wie nationale Marktüberwachungsbehörden, jedoch sind die verhängten Geldbußen signifikant niedriger.
4. Zusammenarbeit und Koordination
Das KI-Gesetz enthält Mechanismen zur Gewährleistung der Zusammenarbeit und Koordination zwischen nationalen zuständigen Behörden und der Kommission. Wenn eine Marktüberwachungsbehörde feststellt, dass die Nichteinhaltung über ihr nationales Territorium hinausgeht, muss sie die Kommission und andere Mitgliedstaaten unverzüglich informieren.
5. Herausforderungen
Das Durchsetzungsrahmen des KI-Gesetzes ist komplex und wirft Fragen zur praktischen Umsetzung auf:
- Fehlende zentrale Anlaufstelle: Betreiber müssen mit mehreren Behörden in verschiedenen Mitgliedstaaten umgehen.
- Fehlende Harmonisierung: Das Gesetz spezifiziert keine Fristen für die Behörden, was zu Fragmentierung führen kann.
- Doppelte Rolle des KI-Büros: Diese Behörde hat sowohl Aufsichtspflichten als auch Durchsetzungsbefugnisse.
Diese Herausforderungen könnten die konsequente Anwendung des KI-Gesetzes in den Mitgliedstaaten beeinträchtigen.
