AI-Literacy – Hinweise zur Entwicklung Ihres Programms
Die Verpflichtung zur AI-Literacy gemäß dem EU AI Act trat am 2. Februar 2025 in Kraft. Dies betrifft alle, die in irgendeiner Weise mit Künstlicher Intelligenz (KI) arbeiten und einen Bezug zur EU haben – sowohl Anbieter als auch Anwender von KI-Systemen.
Die Verpflichtung
Gemäß Artikel 4 müssen Anbieter und Anwender von KI-Systemen Maßnahmen ergreifen, um sicherzustellen, dass ihre Mitarbeiter und andere Personen, die im Auftrag von ihnen mit KI-Systemen arbeiten, ein ausreichendes Maß an AI-Literacy haben. Diese Verpflichtung beinhaltet, relevante Personen mit den notwendigen Kenntnissen auszustatten, um informierte Entscheidungen über KI-Systeme zu treffen.
Die Definition umfasst sowohl die informierte Bereitstellung als auch das Bewusstsein über die Chancen und Risiken von KI sowie mögliche Schäden, die sie verursachen kann.
Wer muss AI-literate sein?
Die Kommission bestätigt, dass alle Personen, die im operativen Bereich des Anbieters oder Anwenders tätig sind, AI-literate sein müssen. Dazu zählen auch Vertragspartner, Dienstleister und Kunden.
Was ist ein „ausreichendes“ Niveau an AI-Literacy?
Die Kommission wird keine strengen oder spezifischen Anforderungen auferlegen, da dies kontextabhängig ist. Organisationen müssen ihren Ansatz anpassen – beispielsweise benötigen Organisationen, die hochriskante KI-Systeme verwenden, möglicherweise zusätzliche Maßnahmen, um sicherzustellen, dass die Mitarbeiter diese Risiken verstehen.
Selbst Mitarbeiter, die nur generative KI verwenden, benötigen Schulungen über die relevanten Risiken, wie etwa Halluzinationen. Die Kommission plant, keine sektorspezifischen Leitlinien bereitzustellen, obwohl der Kontext, in dem das KI-System bereitgestellt oder angewendet wird, relevant ist.
Für diejenigen, die bereits über tiefgehendes technisches Wissen verfügen, kann die Schulung zur AI-Literacy dennoch relevant sein. Die Organisation sollte prüfen, ob sie die Risiken versteht und wie sie diese vermeiden oder mindern kann, sowie andere relevante Kenntnisse wie die rechtlichen und ethischen Aspekte von KI.
Gibt es eine „Human-in-the-Loop“-Ausnahme?
Nein, tatsächlich ist AI-Literacy für Menschen im Loop wichtiger. Um eine echte Aufsicht zu gewährleisten, müssen sie die KI-Systeme, die sie überwachen, verstehen.
Was sind die Folgen, wenn dies nicht umgesetzt wird?
Die Durchsetzung wird durch die Marktüberwachungsbehörden erfolgen und kann ab dem 2. August 2026 beginnen, wenn die Bestimmungen über ihre Durchgriffsbefugnisse in Kraft treten. Die Kommission äußert sich zu der Frage, ob bei Nichteinhaltung ab dem 2. Februar 2025 Strafen verhängt werden könnten, gibt jedoch keine Antwort darauf.
Die Details darüber, wie die Durchsetzung aussehen wird, stehen ebenfalls noch aus. Der AI Act sieht keine spezifischen Geldstrafen für die Nichteinhaltung der Verpflichtung zur AI-Literacy vor.
Unsere Einschätzung
Die Kommission gibt nicht viel darüber preis, wie AI-Literacy-Programme aussehen sollten. Letztendlich, wie sie betont, wird das, was „ausreichend“ ist, für jede Organisation persönlich sein.
Um ein AI-Literacy-Programm zu gestalten, ist es notwendig, zunächst zu klären:
- Wer sind die verschiedenen Stakeholder, die an der Nutzung von KI beteiligt sind? Dies muss alle abdecken – von der KI-Governance über Entwickler bis hin zu allen, die KI nutzen, Dienstleister, Kunden und betroffene Personen.
- Was weiß jede Gruppe bereits und was muss jede Gruppe wissen? Beispielsweise benötigen Mitglieder von KI-Governance-Ausschüssen möglicherweise ein tieferes Verständnis dafür, wie KI funktioniert. Datenwissenschaftler müssen sich auf rechtliche und ethische Fragen konzentrieren. Für Mitarbeiter, die gelegentlich generative KI nutzen, könnte eine kürzere Sitzung zu den Risiken und dem Management dieser Risiken angemessen sein.
- Welches Medium wäre am geeignetsten? Ein Workshop-Format könnte gut für Mitglieder von KI-Governance-Ausschüssen oder Datenwissenschaftler funktionieren, während E-Learning für Mitarbeiter, die gelegentlich generative KI nutzen, ausreichend sein könnte.
- Wann wird die Schulung durchgeführt? Wie bereits erwähnt, gilt die Verpflichtung bereits.
- Wie werden wir die Teilnahme verfolgen und sicherstellen, dass die Abschlussquote ausreichend hoch ist?
Die Leitlinien der Kommission befassen sich mit der spezifischen Verpflichtung zur AI-Literacy im Rahmen des AI Act. Tatsächlich ist AI-Literacy jedoch entscheidend für alle Organisationen, die KI nutzen, unabhängig davon, ob der AI Act Anwendung findet oder nicht. AI-Literacy ist essentiell für den Aufbau eines soliden KI-Governance-Programms, das in der Lage ist, die Vielzahl von rechtlichen und organisatorischen Risiken zu managen, die mit der Nutzung von KI verbunden sind.
