Die Ziele der KI-Literatur gemäß dem EU-KI-Gesetz: Erkenntnisse aus IDEA
Zu Beginn dieses Jahres traten die ersten Bestimmungen des EU-Gesetzes über Künstliche Intelligenz (KI) in Kraft. Obwohl es sich um ein EU-Recht handelt, hat es eine globale Reichweite: Jede Organisation, die KI-Systeme Nutzern in der EU anbietet, unabhängig von ihrem Sitz, ihrer Größe oder ihrem Umsatz, muss die Anforderungen des Gesetzes erfüllen. Diese Bestimmungen verbieten nicht nur riskante KI-Praktiken, sondern setzen auch ein zukunftsorientiertes Mandat: Artikel 4 fordert Anbieter und Anwender von KI-Systemen auf, aktiv KI innerhalb ihrer Organisationen zu fördern.
Gemäß Artikel 4 muss jeder Anbieter oder Anwender von KI sicherstellen, dass Mitarbeiter und Interessengruppen über ausreichende KI-Literatur verfügen. Diese oft übersehene Anforderung könnte ein entscheidendes Maß sein, um sicherzustellen, dass die transformative Kraft der KI verantwortungsvoll genutzt wird. Es stellt sich jedoch die Frage, wie dies effektiv in die Praxis umgesetzt werden kann. Nach der Durchführung von KI-Literaturprogrammen in verschiedenen Regionen im vergangenen Jahr werden in diesem Artikel zentrale Erkenntnisse zu effektiven Methoden zur Steigerung der KI-Literatur behandelt, einschließlich häufiger Fallstricke und der Bedeutung der Befähigung von Organisationen mit KI-Literatur für die Navigation in der digitalen Zukunft.
Was das Gesetz verlangt
Ein guter Ausgangspunkt, um die KI-Literatur anzugehen, ist die Frage: Was verlangt das Gesetz und wie wird KI-Literatur definiert? Das KI-Gesetz verpflichtet alle Anbieter und Anwender von KI, ein ausreichendes Niveau an KI-Literatur zu erreichen – definiert in Artikel 3 (56) des EU-KI-Gesetzes. Die Definition umfasst sowohl die Fähigkeiten als auch das Wissen, das benötigt wird, um KI-Systeme sicher zu entwickeln und einzusetzen, sowie ein umfassendes Verständnis ihrer potenziellen Vorteile und Risiken. Um den Anforderungen zu entsprechen, sind Organisationen, die KI nutzen, verpflichtet, gezielte Schulungen und Sensibilisierungsprogramme zur Literatur einzuführen, die nicht nur die technischen Aspekte von KI abdecken, sondern auch die spezifischen Kontexte, in denen diese Systeme eingesetzt werden, und die Merkmale ihrer vorgesehenen Nutzer.
Diese Anforderung ist besonders kritisch in Wahlprozessen, wo ein unzureichendes Verständnis der Fähigkeiten und Risiken von KI zu schädlichen Ergebnissen führen könnte, wie manipulative Wahlpraktiken, Desinformation oder die Beeinträchtigung der Wählerautonomie und der Bürger- und politischen Rechte. Durch die Forderung nach einem robusten Verständnis von KI hilft das Gesetz, die demokratische Integrität zu schützen, Transparenz zu fördern und das öffentliche Vertrauen aufrechtzuerhalten – was genau zeigt, warum die Entwicklung von KI-Literatur in Kontexten über kommerzielle oder technische Bereiche hinaus von wesentlicher Bedeutung ist.
Drei kritische Lektionen
Angesichts unserer jüngsten Erfahrungen bei der Unterstützung von Wahlbehörden (EMBs) zur Verbesserung der KI-Literatur haben wir drei kritische Lektionen identifiziert, um die Integrität der Wahlen zu sichern und die Resilienz zu erhöhen:
Erstens, KI-Literaturprogramme müssen über rein technische Überlegungen hinausgehen und die Menschenrechte, ethische Dimensionen sowie breitere soziale, politische und kontextuelle Implikationen einbeziehen. Umfragedaten aus den Workshops von International IDEA zeigen, dass die meisten Wahlbeamten nur über rudimentäres Wissen über KI verfügen, was Bedenken hinsichtlich der Verletzung von Rechten, versteckter Fehler und Cyberanfälligkeiten schürt. Diese Bedenken sind gerechtfertigt. Bei Wahlen kann KI Vorurteile verstärken, die öffentliche Diskussion verzerren und das Vertrauen der Wähler in demokratische Institutionen erodieren. Daher ist es entscheidend, Ansätze zu vermeiden, die diese Themen als sekundäre Anliegen behandeln oder sie auf bloße Compliance-Checklisten reduzieren. Organisationen sollten sich nicht nur auf technische Aspekte und Lösungen verlassen, ohne die breiteren Implikationen zu berücksichtigen oder die Verantwortung vollständig auf algorithmisches Design zu übertragen. Folglich sollten KI-Literaturprogramme Diskussionen über zentrale ethische Prinzipien – wie Fairness und Nichtdiskriminierung, Zugänglichkeit, Verantwortlichkeit, Transparenz und Erklärbarkeit sowie Datenschutz und Sicherheit – umfassen und gleichzeitig betonen, dass eine robuste menschliche Aufsicht die letzte Sicherheitsmaßnahme in jedem KI-Prozess ist. Die Ausstattung von Beamten mit diesem ganzheitlichen Kompetenzset ermöglicht es ihnen, nachgelagerte Schäden zu erkennen, nicht nur die Software zu bedienen. Die neue Pflicht zur Literarität in Artikel 4 des EU-KI-Gesetzes kommt genau zur richtigen Zeit und verwandelt diese breitere Kompetenz von einer Best Practice in eine gesetzliche Verpflichtung für Wahlbehörden und andere KI-Anbieter.
Zweitens, die proaktive Annahme von Risikominderungsstrategien ist entscheidend, um Bedenken bezüglich potenzieller KI-Risiken effektiv zu adressieren. In dieser risikobehafteten Umgebung kann selbst ein übersehenes Vorurteil, ein Datenleck oder ein adversarielle Ausnutzung schwerwiegende zivil- und politisch Rechte verletzen, das öffentliche Vertrauen untergraben oder Ergebnisse ungültig machen. Für EMBs, die Anwender und nicht Entwickler von KI-Tools sind, liegt der Schlüssel in der Art und Weise, wie diese Tools beschafft und eingeführt werden. Durch den Aufbau klarer Standards und bedeutungsvoller Aufsicht in Verträgen und Einsatzplänen stellen Beamte sicher, dass von Anfang an Schutzmaßnahmen vorhanden sind. Ebenso wichtig ist die Entscheidung, ob KI überhaupt die richtige Wahl ist; einige Wahlfunktionen – wie die Dateneingabe mit niedrigem Volumen oder hochsensible Entscheidungen zur Wählerregistrierung – könnten besser mit einfacheren regelbasierten Softwarelösungen oder direkter menschlicher Aufsicht bedient werden. Das Einbetten dieser strategischen „Anwendungsfall“-Filter neben vertraglichen Schutzmaßnahmen zeigt die Sorgfaltspflicht gegenüber Parteien, Beobachtern und Wählern. Kurz gesagt, risikomindernde Maßnahmen, die von Anfang an kontextbewusst sind, sind der einzige Weg, um sicherzustellen, dass anspruchsvolle KI-Tools keine Haftungen werden, wenn sie den unerbittlichen Realitäten eines Wahlzyklus gegenüberstehen.
Schließlich, während die Implementierung von KI-Literaturprogrammen ein fortlaufender Prozess bleibt, gehören diese Programme zu den effektivsten Mitteln, um potenzielle Risiken zu verringern und eine verantwortungsvolle KI-Einführung in Wahlprozessen zu gewährleisten. Gut strukturierte Schulungen ermöglichen es dem Personal, glaubwürdige Nachweise über die Einhaltung von Rechten und ethischen Standards von Anbietern zu fordern, Vorschläge gegen institutionelle Werte zu überprüfen und klare Erwartungen an Transparenz und Verantwortlichkeit zu setzen. Dieses Wissensfundament befähigt Beamte auch, angemessene Maßnahmen zu entwerfen, die die Informationsumgebung schützen und politische Kampagnen vor Manipulation oder anderen Formen illegitimer Einmischung abschirmen. Da das Lernen kontinuierlich auf neue Technologien, aufkommende Bedrohungen und sich entwickelnde rechtliche Standards angewendet wird, werden Literaturprogramme zu einer sich selbst verstärkenden Verteidigungslinie, die sie zu einem der effektivsten Instrumente macht, um die Integrität der Wahlen zu wahren, ohne legitime Innovationen zu ersticken.
Zusammenfassend ist ein ganzheitlicher Ansatz zur KI-Literatur entscheidend, um diese breiteren gesellschaftlichen, rechtlichen und ethischen Implikationen vollständig zu verstehen, insbesondere in den spezifischen Kontexten, in denen KI angewendet wird und den Individuen, die betroffen sind. In unseren jüngsten Diskussionen mit Wahlbehörden (EMBs) und zivilgesellschaftlichen Organisationen (CSOs) betonten die Teilnehmer, dass eine engere Zusammenarbeit zwischen beiden die KI-Literatur erheblich voranbringen kann. Sie hoben die derzeitige mangelnde zivilgesellschaftliche Aufsicht über KI bei Wahlen hervor und betonten die Bedeutung kontinuierlicher Zusammenarbeit und geteilter Expertise zur Bewältigung aufkommender Risiken. Diese Erkenntnisse gehen über den Wahlbereich hinaus; wo immer KI-Tools entwickelt oder eingesetzt werden, ist die Einbindung einer Vielzahl von Interessengruppen entscheidend, um ein umfassendes Verständnis der breiteren Auswirkungen der Technologie und des Kontexts, in dem sie eingesetzt wird, zu gewährleisten.
Die richtige Umsetzung von KI-Literatur wird nicht einfach sein, könnte jedoch eine der besten Möglichkeiten sein, die potenziellen Schäden der KI zu begrenzen und gleichzeitig ihre Vorteile zu nutzen. Jetzt, da Artikel 4 des EU-KI-Gesetzes in Kraft getreten ist – und damit eine gesetzliche Pflicht für Anbieter und Anwender, eine „ausreichende“ KI-Literatur nachzuweisen – könnten die Einsätze nicht klarer sein. Ergebnisse aus Initiativen wie dem Schulungsprogramm von International IDEA für Wahlakteure im Bereich KI bieten ermutigende Anzeichen, da die Teilnehmer die Schulungen mit einem größeren Bewusstsein für die humanitären, ethischen und breiteren gesellschaftlichen, politischen und kontextuellen Implikationen verlassen haben – alles wesentliche Faktoren zur Entwicklung effektiver Minderungsstrategien für potenzielle Schäden und Risiken. Indem sie allen Anbietern und Anwendern von KI die notwendigen Fähigkeiten und Einsichten vermitteln, um sowohl die technischen als auch die ethischen Dimensionen von KI zu navigieren, spielen diese Schulungsprogramme eine entscheidende Rolle bei der verantwortungsvollen Entwicklung und Nutzung von KI-Tools. Zukünftig wird eine kontinuierliche Investition in KI-Literatur entscheidend sein, nicht nur für das Wahlmanagement, sondern auch zur Stärkung der KI-Governance in allen Sektoren, um sicherzustellen, dass KI-Technologien verantwortungsvoll und ethisch eingesetzt werden.
