Nationale Ethikrichtlinie für Künstliche Intelligenz zur sicheren und verantwortungsvollen Implementierung
Die Ministerin für Wissenschaft und Technologie hat eine Rundverfügung unterzeichnet, die die Nationale Ethikrichtlinie für Künstliche Intelligenz herausgibt, die darauf abzielt, die Forschung, Entwicklung und den Einsatz von KI-Systemen in eine Richtung zu lenken, die sicher, verantwortungsvoll und für Individuen, Gemeinschaften und die Gesellschaft insgesamt vorteilhaft ist.
Verpflichtungen und Verantwortlichkeiten
Laut der ab dem 10. März in Kraft tretenden Richtlinie müssen alle an KI-Aktivitäten beteiligten Stellen und Personen spezifische Verpflichtungen einhalten. Insbesondere muss die Nutzung von KI Sicherheit und Zuverlässigkeit gewährleisten und Schäden an Leben, Gesundheit, Würde, Ehre und psychischem Wohlbefinden der Menschen verhindern.
Entwickler und Betreiber sind dafür verantwortlich, Sicherheitsmerkmale bereits in der Entwurfsphase zu integrieren, potenzielle schädliche Szenarien vorherzusehen und geeignete präventive Kontrollen zu übernehmen. Sie müssen auch klare Qualitätskriterien für Daten, Modelle und Ergebnisse sowie interne Prozesse für Tests, Validierung und Verifizierung vor jeder Implementierung festlegen.
Menschliche Aufsicht und Sicherheitsprotokolle
Die Richtlinie schreibt vor, dass alle KI-gesteuerten Entscheidungen und Handlungen menschliche Aufsicht und Eingriffsmöglichkeiten erfordern, die an das potenzielle Ausmaß der Auswirkungen des Systems angepasst sind. Die Stellen und Personen müssen Mechanismen zur Rückmeldung, Fehlererkennung, Korrekturmaßnahmen und zur Aufrechterhaltung von Notfallplänen bei Fehlfunktionen oder Missbrauch einrichten. Robuste Sicherheitsprotokolle müssen Bedrohungen erkennen und abmildern, einschließlich unbefugtem Zugriff, Systemübernahme, Daten- oder Modellvergiftung, adversarialen Angriffen, Ausnutzung von Schwachstellen, Datenverletzungen oder anderen Missbrauchsformen, um die Vertraulichkeit, Integrität und Verfügbarkeit von Daten, Modellen, Algorithmen und unterstützender Infrastruktur zu gewährleisten.
Respekt für Menschenrechte und Nichtdiskriminierung
Besonderes Augenmerk wird auf den Respekt für Menschen- und Bürgerrechte gelegt, mit Verpflichtungen zu Fairness, Transparenz und Nichtdiskriminierung während der Entwicklung und Nutzung von KI. Die betreffenden Stellen und Personen müssen geeignete Prüfverfahren anwenden, um Verstöße gegen die Privatsphäre, den Schutz personenbezogener Daten, die Entscheidungsfreiheit, den Zugang zu Informationen, das Recht auf Gleichbehandlung und andere im Gesetz verankerte Rechte zu verhindern.
Es sind Anstrengungen erforderlich, um Verzerrungen in Daten, Modellen und Operationen zu erkennen und zu mildern, wobei besondere Aufmerksamkeit auf die Auswirkungen auf gefährdete Gruppen wie Kinder, ältere Menschen, Menschen mit Behinderungen und andere benachteiligte Gruppen gelegt werden muss. Die Stellen und Personen müssen klare Mitteilungen über die Beteiligung von KI bereitstellen und angemessene Informationen über die Ziele des Systems, den Umfang, die Datenquellen, die allgemeinen Betriebsprinzipien und die bekannten Einschränkungen liefern, um Missverständnisse über die Fähigkeiten zu vermeiden.
Förderung von sozialer Wohlfahrt und Innovation
Die Richtlinie ermutigt zur Nutzung von KI, die das soziale Wohl, die Inklusivität und den nachhaltigen Fortschritt fördert. Die Stellen und Personen sollten den Energieverbrauch, die Rechenressourcen und den ökologischen Fußabdruck während des gesamten KI-Lebenszyklus bewerten und energieeffiziente Technologien sowie emissionsarme Verfahren bevorzugen. Das Design von KI-Systemen sollte sozialen ethischen Normen und der kulturellen Identität Rechnung tragen und diskriminierende Ergebnisse oder nachteilige Auswirkungen auf die Gemeinschaftsinteressen vermeiden.
Innovation und unternehmerische soziale Verantwortung werden im Rahmen der Richtlinie gefördert. Verantwortungsvolle Experimente sowie offene Forschung und Wissensverbreitung gemäß den gesetzlichen Bestimmungen und dem Schutz der geistigen Eigentumsrechte werden unterstützt.
Überprüfung und Aktualisierung der Richtlinie
Die Richtlinie wird alle drei Jahre oder früher in Reaktion auf wesentliche Änderungen in Technologie, Gesetzgebung oder Managementpraktiken einer Überprüfung und Aktualisierung unterzogen.
Die Einführung der Richtlinie stärkt die Umsetzung der politischen Resolution über Durchbrüche in der Wissenschaft und Technologie, Innovation und der nationalen digitalen Transformation. Sie unterstützt auch die Durchsetzung des Gesetzes über KI, das am 1. März 2026 in Kraft trat.
