Die Bemühungen der Vereinten Nationen zur Regulierung von KI und ihre Auswirkungen auf die Unternehmens-Compliance
Die Vereinten Nationen haben einen Aufruf gestartet, um Länder dazu zu bringen, sich auf sogenannte KI-Rote Linien zu einigen: „Grenzen, die nicht überschritten werden dürfen“, um die schwerwiegendsten Risiken für die Menschheit und die globale Stabilität zu verhindern. Diese Regelungen sollen bis Ende 2026 etabliert werden.
In einer Erklärung der UN wurde betont, dass ohne verbindliche internationale Regeln die Menschheit mit eskalierenden Risiken konfrontiert sein könnte, die von konstruierten Pandemien und großangelegter Desinformation bis hin zu globalen Sicherheitsbedrohungen und systematischen Menschenrechtsverletzungen reichen.
Geplante Verbote und Bedenken
Die UN hat eine Vielzahl möglicher KI-Verbote vorgeschlagen, darunter:
- Verbot der Nutzung von KI im Bereich der nuklearen Kommando- und Kontrollsysteme
- Verbot von tödlichen autonomen Waffen
- Massensurveillance
- Menschenimitation durch KI, die Nutzer täuscht, indem sie vorgibt, ein Mensch zu sein
- Missbrauch im Cyberbereich, einschließlich der unkontrollierten Freisetzung von cyberoffensiven Agenten
- Verbote von autonomen Selbstreplikationssystemen
Die UN fordert außerdem, dass zukünftige Verträge auf drei Säulen basieren: einer klaren Liste von Verboten, robusten, prüfbaren Verifizierungsmechanismen und der Ernennung eines unabhängigen Gremiums zur Überwachung der Umsetzung.
Praktikabilität und Durchsetzbarkeit
Analysten äußern jedoch Bedenken hinsichtlich der Praktikabilität und Durchsetzbarkeit solcher globalen Vorschriften. Kritiker befürchten, dass nicht genügend Länder den Vorschlägen zustimmen und dass das Ziel, die Regeln bis Ende 2026 umzusetzen, möglicherweise nicht ausreicht, um Schäden zu begrenzen. Die Anwendung und Durchsetzbarkeit der Regeln könnte erhebliche Auswirkungen auf Unternehmen haben, insbesondere im Hinblick auf Compliance-Vorgaben.
Die AI-Vorschriften könnten Unternehmen betreffen, indem sie die Nutzung von KI zur Bewerberauswahl, zur Entscheidungsfindung bei Krediten oder zum Training von Modellen mit vertraulichen Kundendaten einschränken.
Fazit
Die Vorschläge der UN könnten für Unternehmen relevant werden, die in Ländern tätig sind, die das UN-Abkommen unterzeichnen. Länder wie Deutschland, Kanada, Schweiz oder Japan könnten jedoch eigene KI-Compliance-Regeln haben, die die UN-Vorgaben möglicherweise irrelevant machen.
Zusammenfassend lässt sich sagen, dass, obwohl die UN-Initiative möglicherweise grundlegende Prinzipien formuliert, die tatsächliche Umsetzung und die Auswirkungen auf die Unternehmens-Compliance in der Praxis fraglich bleiben.
