Südkorea könnte es bereuen, als Erste das neue KI-Gesetz einzuführen
Am 22. Januar führte Südkorea sein KI-Grundgesetz ein, das als „weltweit erster umfassender Gesetzestext zur Regulierung von Künstlicher Intelligenz“ bezeichnet wird. Die Regierung behauptet, dass die Gesetzgebung dazu beitragen wird, das Land zu einem führenden Akteur im globalen Rennen um die KI-Führung zu machen, indem sie ein „Fundament für Vertrauen“ schafft und gleichzeitig die Interessen der Bürger schützt.
Inhalt des neuen Gesetzes
Das neue Gesetz – das Grundgesetz zur Entwicklung von Künstlicher Intelligenz und zur Schaffung einer Grundlage für Vertrauenswürdigkeit – umfasst sechs Kapitel mit 43 Artikeln und legt strenge Anforderungen an die Einhaltung sowohl für inländische als auch für ausländische Unternehmen fest. Es definiert lose eine Kategorie von „hochwirksamer KI“, die Anwendungen umfasst, die mit nuklearer Sicherheit, Trinkwasserversorgung, Transport, Gesundheitswesen sowie Kreditbewertung und Kreditentscheidungen in Verbindung stehen, und verlangt menschliche Aufsicht über solche Anwendungen. Unternehmen müssen auch im Voraus die Nutzer über Produkte und Dienstleistungen informieren, die solche „hochwirksame KI“ verwenden, um eine Anforderung an die „Erklärbarkeit“ zu erfüllen.
Transparenzanforderungen
Um Fehlinformationen und Deepfake-Bilder zu bekämpfen, enthält das Gesetz auch eine Anforderung an die „Transparenz“, die klare Wasserzeichen oder akustische Kennzeichnungen vorschreibt, wenn KI-Ausgaben „schwer von der Realität zu unterscheiden“ sind. Selbst bei Spielen und Animationen müssen solche Kennzeichnungen in den Metadaten platziert werden. Bei Verstößen gegen diese Kennzeichnungsanforderungen kann eine Verwaltungsstrafe von bis zu 30 Millionen Won (ca. 20.400 USD) verhängt werden, nach einer einjährigen Übergangsfrist.
Bedenken der Startups
Obwohl die Regierung sagt, dass das neue Gesetz nach „umfassenden Konsultationen“ verabschiedet wurde, hat die Startup-Allianz Südkoreas ihre Frustration über die Unklarheit der Gesetzesformulierungen geäußert. Eine Umfrage ergab, dass 98 % von 101 lokalen KI-Startups keine Systeme zur Einhaltung des Gesetzes haben und fast die Hälfte nicht mit den Details vertraut ist. Da das Ministerium für Wissenschaft und ICT (MSIT) dafür verantwortlich ist, zu bestätigen, ob ein System als hochwirksame KI qualifiziert ist, wird der Überprüfungsprozess 30 Tage in Anspruch nehmen, mit einer Verlängerung von bis zu weiteren 30 Tagen, was Verzögerungen bei der Einführung neuer Dienstleistungen zur Folge haben wird.
Risiken der Überregulierung
Südkorea hat eine Geschichte, als Erster voranzugehen, was oft mit unbeabsichtigten Konsequenzen verbunden ist. Frühere Gesetze, wie die Änderung des Informations- und Kommunikationsnetzwerks, die ein System zur echten Namensregistrierung erforderte, führten zu Datenschutzverletzungen und wurden schließlich für verfassungswidrig erklärt. Übermäßige Gesetze könnten für einen relativ kleinen Markt wie Südkorea riskant sein, besonders in der heutigen geopolitischen Lage.
Fazit
Obwohl Südkorea in einer guten Position ist, könnte eine übermäßig aggressive Regulierung unbeabsichtigte Folgen haben. Das Land hat Stärken im Bereich der KI, muss jedoch vorsichtig sein, um nicht in die Falle der Überregulierung zu tappen.
