AI Talks: Verständnis des EU AI-Gesetzes – Verpflichtungen zur KI-Kompetenz und verbotene Praktiken
Willkommen zu unserem neuesten Artikel, in dem wir die wichtigsten Erkenntnisse aus unserem ersten Webinar der Reihe „AI Talks: Verständnis des EU AI-Gesetzes“ präsentieren. Diese virtuelle Reihe ist darauf ausgelegt, Unternehmen dabei zu helfen, die Komplexität des Europäischen Gesetzes über Künstliche Intelligenz (EU AI-Gesetz) zu navigieren, das die regulatorische Landschaft für Künstliche Intelligenz (KI) in Europa revolutionieren soll.
Das EU AI-Gesetz soll die regulatorische Landschaft für KI-Systeme, die in der EU eingesetzt werden, umgestalten. Als das erste umfassende KI-Gesetz seiner Art führt es strenge Compliance-Anforderungen ein, einschließlich Verpflichtungen zur KI-Kompetenz, verbotenen Verwendungen von KI-Systemen und einem phasenweisen Rollout von Durchsetzungsmechanismen. Hier ist, was Unternehmen wissen müssen, um der Kurve voraus zu sein.
1. Das AI-Gesetz auf einen Blick
Das EU AI-Gesetz zielt darauf ab, einen harmonisierten Rahmen für KI-Systeme zu schaffen, die basierend auf Risikostufen kategorisiert werden. Bemerkenswerterweise führt das EU AI-Gesetz ein:
- Breites Anwendungsfeld, das Anbieter, Benutzer, Hersteller, Importeure und Händler von KI-Systemen umfasst, selbst wenn sie außerhalb der EU ansässig sind, aber innerhalb ihres Marktes tätig sind.
- Definition für KI-Systeme.
- Phasenweise Durchsetzungsplanung, beginnend mit bestimmten Verpflichtungen, die sofort in Kraft treten.
- Schwere Strafen für Nichteinhaltung, die potenziell die Strafen unter der Datenschutz-Grundverordnung (DSGVO) übersteigen können.
2. Sofortige Compliance-Verpflichtungen ab dem 2. Februar 2025
a. KI-Kompetenz (Artikel 4)
i. Konzept
Artikel 4 des EU AI-Gesetzes erfordert von Anbietern und Benutzern von KI-Systemen, dass sie ein ausreichendes Niveau an KI-Kompetenz für ihr Personal und alle anderen Benutzer, die mit KI-Systemen interagieren, sicherstellen.
Das EU AI-Gesetz legt nicht fest, wie die KI-Kompetenz von Anbietern und Benutzern erreicht werden sollte. Um diese Anforderung zu unterstützen, hat das EU AI-Büro ein lebendiges Repository laufender Praktiken unter KI-Systemanbietern und -benutzern erstellt. Der Zweck des Repositories ist es, Beispiele für KI-Kompetenzinitiativen zu teilen, die Organisationen umsetzen. Diese Praktiken können anderen helfen zu verstehen, wie sie ihre eigenen Strategien zur Erfüllung der Kompetenzverpflichtungen in Artikel 4 entwickeln können.
ii. Was sollten Sie jetzt tun, um sich auf die Einhaltung Ihrer Kompetenzverpflichtungen vorzubereiten?
- Bewertung der aktuellen Praktiken: Bewerten Sie die aktuellen KI-Kompetenzniveaus in Ihrer Organisation. Sind Ihre Mitarbeiter und Benutzer mit dem richtigen Wissen und Training ausgestattet?
- Nutzen Sie das Repository der KI-Praktiken: Konsultieren Sie das lebendige Repository, um Praktiken zu finden, die für Ihre Organisation relevant sein könnten.
- Bewerten Sie, ob Sie sich am KI-Pakt beteiligen sollten.
- Regelmäßige Aktualisierung der Praktiken: Bleiben Sie über sich entwickelnde KI-Kompetenzstandards informiert, verbessern Sie proaktiv die Bemühungen Ihrer Organisation um Kompetenz und dokumentieren Sie diese, um die Einhaltung nachzuweisen.
b. Verbotene KI-Praktiken
i. Konzept
Artikel 5 des EU AI-Gesetzes verbietet das Inverkehrbringen, die Inbetriebnahme oder die Nutzung bestimmter KI-Systeme, die ein „unvertretbares Risiko“ darstellen, einschließlich KI-Systemen, die für folgende Zwecke eingesetzt werden:
- Schädliche KI-basierte Manipulation und Täuschung.
- Schädliche KI-basierte Ausbeutung von Verwundbarkeiten.
- Soziale Bewertung.
- Risikobewertung oder -vorhersage individueller Straftaten.
- Untargeted Scraping des Internets oder CCTV-Material zur Erstellung oder Erweiterung von Gesichtserkennungsdatenbanken.
- Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen.
- Biometrische Kategorisierung zur Ableitung bestimmter geschützter Merkmale.
- Echtzeit-Remote-Biometrieidentifikation für Strafverfolgungszwecke in öffentlich zugänglichen Räumen.
Diese Verbote traten sechs Monate nach Inkrafttreten des AI-Gesetzes in Kraft, beginnend am 2. Februar 2025.
c. Ist Ihre Compliance-Dokumentation durch rechtliches Privileg geschützt?
Das EU AI-Gesetz gewährt den Regulierungsbehörden umfassende Ermittlungsbefugnisse, einschließlich des Zugriffs auf KI-Risikoanalysen und Compliance-Dokumentationen. Allerdings kann rechtliches Privileg bestimmte interne Kommunikationen vor Offenlegung schützen. Unternehmen sollten in Erwägung ziehen, rechtlichen Rat einzuholen, um sicherzustellen, dass ihre Compliance-Strategien, wo zutreffend, privilegiert bleiben.
3. Nächste Schritte für Unternehmen
Für Unternehmen mit globaler Präsenz ist die von der Europäischen Kommission herausgegebene Anleitung eine entscheidende Ressource zur Bewältigung der Komplexität der Einhaltung des EU AI-Gesetzes. Unten finden Sie einige empfohlene Praktiken zur Verbesserung Ihrer Compliance-Strategie:
- Bewerten Sie, ob Ihre KI-Systeme unter den Anwendungsbereich des EU AI-Gesetzes fallen.
- Identifizieren Sie, ob Ihr Unternehmen ein Anbieter, Benutzer oder beides nach dem EU AI-Gesetz ist.
- Überprüfen und mindern Sie Risiken im Zusammenhang mit KI-Einsätzen.
- Stellen Sie sicher, dass Sie die Verpflichtungen zur KI-Kompetenz durch Schulungen für Mitarbeiter einhalten.
- Konsultieren Sie rechtlichen Rat, um sicherzustellen, dass Ihre KI-Compliance-Strategien privilegiert bleiben.
- Beobachten Sie regulatorische Aktualisierungen, einschließlich bevorstehender EU-Richtlinien.
Mit der schrittweisen Umsetzung des EU AI-Gesetzes ist jetzt der richtige Zeitpunkt für Unternehmen, ihre KI-Strategien an den regulatorischen Erwartungen auszurichten. Die Einhaltung heute wird Organisationen helfen, Risiken zu mindern und in Zukunft erhebliche Strafen zu vermeiden.
