Der EU AI Act: Bedeutung und Notwendigkeit von KI-Audits
Am 13. Juni 2024 verabschiedete die Europäische Union den AI Act (Verordnung EU 2024/1689), das erste umfassende Gesetz zur Regulierung von Künstlicher Intelligenz (KI) weltweit. Dies stellt einen bedeutenden Schritt dar, um die ethischen Standards und rechtlichen Anforderungen für KI-Systeme zu definieren.
Warum die EU KI reguliert
Künstliche Intelligenz ist nicht mehr nur Programmcode; sie beeinflusst bereits wesentliche Lebensbereiche, wie zum Beispiel:
- Bewilligung oder Ablehnung von Krediten
- Filterung von Bewerbern
- Einfluss auf Gesundheits- und Rechtsentscheidungen
Die EU trat ein, um:
- Grundrechte und Sicherheit zu schützen
- Konflikte zwischen nationalen Vorschriften zu vermeiden
- vertrauenswürdige Innovation zu fördern
- KI mit den Werten der EU, wie Demokratie und Rechtsstaatlichkeit, in Einklang zu bringen
Der risikobasierte Ansatz der EU
Der AI Act verwendet ein Schichtmodell. Je höher das Risiko, desto strenger sind die Regeln.
Inakzeptables Risiko – Verbotene Systeme
Diese Systeme sind in der gesamten EU verboten:
- Soziale Bewertung durch öffentliche oder private Stellen
- Emotionserkennung in Schulen und am Arbeitsplatz
- Prädiktive Polizeiarbeit basierend ausschließlich auf Profiling
- Echtzeit-Fernbiometrie-Identifikation in öffentlichen Räumen (mit engen Ausnahmen)
Hochrisiko-KI – Strenge Anforderungen
Diese Systeme können die Rechte, die Sicherheit oder den Zugang zu Dienstleistungen der Menschen beeinflussen. Beispiele sind:
- Werkzeuge für Einstellung und Rekrutierung
- Bildungsbewertungssysteme
- Diagnoseunterstützung im Gesundheitswesen
- KI in der Strafverfolgung oder Grenzkontrolle
- KI zur Verwaltung von Infrastruktur oder Produktsicherheit
Folgende Anforderungen sind notwendig:
- Risikomanagementverfahren
- Detaillierte technische Dokumentation
- Menschliche Aufsicht
- Berichterstattung und Protokollierung von Vorfällen
Begrenztes Risiko – Transparenz erforderlich
Dies umfasst:
- Chatbots
- KI-generierte Inhalte (wie Deepfakes)
- Werkzeuge zur simulierten menschlichen Interaktion
Die Nutzer müssen klar darüber informiert werden, dass sie mit KI interagieren.
Minimalrisiko-KI – Keine neuen Verpflichtungen
Die meisten grundlegenden Werkzeuge wie Spamfilter und Produktempfehlungen fallen in diese Kategorie und dürfen ohne zusätzliche rechtliche Anforderungen verwendet werden.
Was ist KI-Audit?
KI-Audit bedeutet die Überprüfung, dass Systeme sicher, rechtmäßig und mit ethischen Erwartungen im Einklang stehen. Es umfasst:
- Unabhängige Tests
- Dokumentation von Risiken und Auswirkungen
- Leistungsbewertung
- Überwachungs- und Verantwortungsmechanismen
Mit Inkrafttreten des AI Act ist das Audit für viele Systeme keine Option mehr, sondern eine rechtliche Verpflichtung.
Zeitplan – Wann die Regeln gelten
- August 2024: Das EU AI Office beginnt mit der Arbeit
- Spätes 2024 bis 2025: Regeln für verbotene Systeme treten in Kraft
- Mitte 2026: Compliance-Anforderungen für hochriskante KI
- 2027: Vollständige Durchsetzung in allen Kategorien
Was ist als Nächstes zu tun?
Wenn Ihr KI-System in der EU verwendet wird oder diese beeinflusst, stellen Sie sich folgende Fragen:
- Gilt es als hochriskant?
- Haben Sie Tests und nachvollziehbare Dokumentationen?
- Kann das System seine Entscheidungen erklären?
- Sind Sie bereit für Audits oder Fragen von Regulierungsbehörden?
Wenn nicht, ist jetzt der Zeitpunkt, in KI-Audits zu investieren.
Fazit
Der EU AI Act ist ein globaler Vorreiter. Er verlagert die KI-Governance von Richtlinien zu Gesetzen. Für Entwickler, Teams und öffentliche Institutionen bedeutet dies, dass sie von der Compliance als nachträglicher Überlegung zu einer Governance als Gestaltungsprinzip übergehen müssen. KI-Audits sind die Brücke zwischen Innovation und Vertrauen.
