EU-Kommission präzisiert die Definition von KI-Systemen
Die europäische Kommission hat kürzlich Richtlinien veröffentlicht, die die Definition von KI-Systemen im Rahmen des KI-Gesetzes klären. Diese Richtlinien analysieren jede Komponente der Definition von KI-Systemen, geben Beispiele und spezifizieren, welche Systeme nicht unter diese Definition fallen. Obwohl diese Richtlinien nicht verbindlich sind, stellen sie ein nützliches Werkzeug für Unternehmen dar, um zu bewerten, ob sie unter den Anwendungsbereich des KI-Gesetzes fallen.
Die Kommission hat diese Richtlinien genehmigt, jedoch noch nicht formell angenommen.
Wie definiert das KI-Gesetz KI-Systeme?
Artikel 3(1) des KI-Gesetzes definiert KI-Systeme wie folgt: „KI-System bedeutet ein maschinengestütztes System, das darauf ausgelegt ist, mit unterschiedlichen Autonomiegraden zu arbeiten und nach der Bereitstellung Anpassungsfähigkeit zeigen kann. Es zieht aus den Eingaben, die es erhält, Schlussfolgerungen darüber, wie Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen generiert werden können, die physische oder virtuelle Umgebungen beeinflussen können.”
Die EU-Kommission identifiziert und präzisiert die folgenden sieben Komponenten der Definition eines KI-Systems im Rahmen des KI-Gesetzes:
1. KI-Systeme sind maschinengestützte Systeme.
Die Richtlinien stellen klar, dass der Begriff „maschinengestützt“ im Kontext von KI-Systemen die Integration sowohl von Hardware als auch Software Komponenten umfasst, die es diesen Systemen ermöglichen, zu funktionieren. Dies unterstreicht die Notwendigkeit, dass Systeme rechnergestützt und auf Maschinenoperationen basierend sind.
2. KI-Systeme müssen ein gewisses Maß an Autonomie aufweisen.
Recital 12 des KI-Gesetzes legt fest, dass KI-Systeme über „ein gewisses Maß an Unabhängigkeit von menschlicher Beteiligung und die Fähigkeit verfügen sollten, ohne menschliches Eingreifen zu arbeiten.“ Die EU-Kommission erläutert, dass die Definition eines KI-Systems daher Systeme ausschließt, die ausschließlich mit voller manueller menschlicher Beteiligung und Intervention betrieben werden.
3. KI-Systeme können nach der Bereitstellung anpassungsfähig sein.
Die Definition eines KI-Systems im Rahmen des KI-Gesetzes deutet darauf hin, dass ein System anpassungsfähig sein kann, nachdem es bereitgestellt wurde. Recital 12 des KI-Gesetzes präzisiert, dass „Anpassungsfähigkeit“ die Fähigkeit zur Selbstlernfähigkeit bedeutet, wodurch das Verhalten des Systems während der Nutzung geändert werden kann.
4. KI-Systeme sind darauf ausgelegt, gemäß festgelegten Zielen zu operieren.
Die Richtlinien spezifizieren, dass die Ziele des Systems entweder explizit (d.h. klar formulierte Ziele, die der Entwickler direkt in das System kodiert) oder implizit (d.h. Ziele, die nicht explizit formuliert sind, aber aus dem Verhalten oder den zugrunde liegenden Annahmen des Systems abgeleitet werden können) sein können.
5. KI-Systeme müssen in der Lage sein, Ausgaben abzuleiten.
Dies ist ein zentrales Element der Definition von „KI-Systemen“ und ein wichtiger Bestandteil der Richtlinien. Das KI-Gesetz zielt darauf ab, KI-Systeme von einfacheren traditionellen Software-Systemen oder Programmieransätzen zu unterscheiden.
Die EU-Kommission präzisiert, wie die Fähigkeit zur Ableitung von Ausgaben bewertet wird und was als KI-System gilt, das in der Lage ist, Ausgaben abzuleiten. Ein KI-System muss in der Lage sein, Ausgaben aus erhaltenen Eingaben abzuleiten, ohne ausschließlich an von Menschen definierten Regeln gebunden zu sein.
6. Ausgaben von KI-Systemen müssen in der Lage sein, physische oder virtuelle Umgebungen zu beeinflussen.
Die EU-Kommission beschreibt vier Arten von Ausgaben, die in der Definition eines KI-Systems aufgeführt sind: Vorhersagen, Inhaltserstellung, Empfehlungen und Entscheidungen. KI-Systeme können nuanciertere Ausgaben generieren als andere Systeme.
7. KI-Systeme müssen in der Lage sein, mit der Umgebung zu interagieren.
Die EU-Kommission spezifiziert, dass dieses Element der Definition bedeutet, dass KI-Systeme aktiv und nicht passiv sind. Die Erwähnung von „physischen oder virtuellen Umgebungen“ bedeutet, dass ein KI-System greifbare Objekte beeinflussen kann, wie z.B. einen Roboterarm, sowie virtuelle Umgebungen, wie digitale Räume und Software-Ökosysteme.
Was kommt als Nächstes?
Im Rahmen ihrer Bewertung, ob und wie das KI-Gesetz auf ihre Produkte und Operationen anwendbar ist, sollten Organisationen die KI-Systeme, die sie entwickeln und/oder nutzen, gemäß der Definition eines KI-Systems im Gesetz und den Richtlinien bewerten.
Diese Bewertung sollte insbesondere im Hinblick auf die Komponente der Ableitungsfähigkeit der Definition sowohl von juristischen als auch von technischen Teams durchgeführt werden.
