Widerstand gegen das AI-Grundgesetz: Industrie fordert Verzögerung aufgrund vager Vorschriften
Die Bedenken innerhalb der Industrie hinsichtlich der unklaren regulatorischen Standards des AI-Grundgesetzes könnten das Wachstum der KI-Branche behindern. Jüngst schlug Huang Jeong-a, ein Mitglied der Demokratischen Partei Koreas, ein Gesetz vor, das die Vorschriften des AI-Grundgesetzes um drei Jahre verschieben soll. Dies deutet darauf hin, dass Schwierigkeiten vor der Implementierung des Gesetzes im kommenden Jahr zu erwarten sind.
Überblick über das AI-Grundgesetz
Das AI-Grundgesetz (Gesetz über die Förderung der künstlichen Intelligenz und den Aufbau von Vertrauen) wurde im Dezember letzten Jahres in der Nationalversammlung verabschiedet und soll am 22. Januar des nächsten Jahres vollständig in Kraft treten. Dieses Gesetz ist die zweite KI-bezogene Gesetzgebung weltweit, nach dem EU-KI-Gesetz. Während die EU die erste Legislaturperiode einführte, wird Südkorea voraussichtlich die erste Nation sein, die diese weltweit umsetzt.
Fokus und Klassifikation
Das AI-Grundgesetz konzentriert sich hauptsächlich auf die industrielle Entwicklung und den Aufbau von Vertrauen (Risikomanagement). Es klassifiziert KI in ‚hochwirksame KI‘ und ‚allgemeine KI‘, wobei hochwirksame KI signifikante Auswirkungen auf Leben, Sicherheit und grundlegende Rechte hat. Betreiber von hochwirksamer KI unterliegen Verpflichtungen zur Vorankündigung, Verifizierung und Zertifizierung.
Zusätzlich enthält das Gesetz Vorschriften, die besagen, dass Ergebnisse, die mit generativer KI, wie Deepfakes, erzeugt werden, über eine Quellenkennzeichnung (Wasserzeichen) mitgeteilt werden müssen.
Gesetzesentwurf zur Verschiebung
Der von Huang vorgeschlagene Änderungsantrag erlaubt die Verschiebung solcher Vorschriften bis Januar 2029. Huang äußerte: „Angesichts des zunehmenden globalen Wettbewerbs um die KI-Hoheit gibt es Bedenken, dass eine unausgereifte Regulierungspolitik uns die goldene Zeit, um eine KI-Macht zu werden, entgehen lassen könnte.”
Forderungen der Industrie
Die KI-Branche fordert seit langem Änderungen an den unklaren Bestimmungen des AI-Grundgesetzes, die nicht mit den Realitäten des heimischen KI-Ökosystems übereinstimmen. Das Ministerium für Wissenschaft und Informations- und Kommunikationstechnologie bildete zu Beginn des Jahres ein Reformteam für untergeordnete Gesetze und bereitet derzeit einen Entwurf für die Durchführungsverordnung vor. Es gibt Bedenken, ob es möglich sein wird, eine sorgfältige und effektive Durchführungsverordnung zu entwickeln, da nur wenig Zeit bis zur Umsetzung des Gesetzes verbleibt.
Wichtige Punkte der Durchführungsverordnung
Die entscheidenden Themen, die die Industrie in Bezug auf die Durchführungsverordnung des AI-Grundgesetzes verfolgt, sind:
① Definition der hochwirksamen KI
② Obligatorisches Wasserzeichen
③ Ermittlungsbefugnisse der Regierung.
Eine wesentliche Kritik besteht darin, dass die Kriterien für hochwirksame KI übermäßig abstrakt und weit gefasst sind. Das Gesetz klassifiziert KI-Systeme, die signifikante Auswirkungen auf die physische Sicherheit und grundlegende Rechte haben oder ein Risiko darstellen, hauptsächlich in Bereichen wie Energie, Gesundheitswesen, Transport und Kreditvergabe, jedoch ist unklar, welche spezifischen KIs in diese Kategorie fallen.
Kontroversen um die Regulierung
Die Vorschrift, die die Kennzeichnung von KI-generierten Inhalten vorschreibt, ist ebenfalls umstritten. Derzeit wird KI häufig als einfaches Hilfsmittel in den Produktionsprozessen von Filmen, Webtoons und Animationen verwendet, um Hintergrundbilder zu erstellen. Die Branche weist darauf hin, dass die Anbringung von Wasserzeichen in diesen Fällen die Qualität des Inhalts und der kreativen Aktivitäten beeinträchtigen kann.
Bedenken hinsichtlich Datenschutz und Sicherheit
Darüber hinaus gibt es Bedenken, dass persönliche und sensible Informationen sowie Cybersecurity-Bedrohungen während des Verfahrens zur vorherigen Überprüfung und Zertifizierung von Betreibern hochwirksamer KI-bezogener Unternehmen oder Produkte auftreten könnten. Dies unterstreicht die Dringlichkeit, Standards zu etablieren, um übermäßige faktische Ermittlungen und Überprüfungen zu verhindern.
Stimmen aus der Branche
Ein Vertreter der Startup Alliance äußerte: „Es gibt Bedenken, dass die Stimmen des Feldes möglicherweise nicht ausreichend berücksichtigt werden, da die tatsächlichen Mitarbeiter, die KI-Modelle oder -Dienste betreiben, und technische Experten aus dem industriellen Bereich nicht im Reformteam für die untergeordneten Gesetze des AI-Grundgesetzes vertreten sind.”
Choi Byeong-ho, Professor am Korea University AI Research Institute, sagte: „Derzeit befindet sich die KI-Branche in einem Zustand rapider technologischer Expansion, und es besteht ein erhebliches Risiko, dass das Gesetz nicht mit der Geschwindigkeit der technologischen Weiterentwicklung Schritt hält und hinterherhinkt. Es ist notwendig, untergeordnete Gesetze vorzubereiten, damit das AI-Grundgesetz kontinuierlich zeitnah aktualisiert werden kann, um seinem Ziel der Förderung der Industrie gerecht zu werden.”
Ausblick
Das Ministerium für Wissenschaft und Informations- und Kommunikationstechnologie hat sich positioniert, das AI-Grundgesetz wie geplant im Januar umzusetzen, nachdem es die Meinungen der Industrie gesammelt hat. Der Plan sieht vor, den endgültigen Entwurf des AI-Grundgesetzes bis spätestens Juni vorzubereiten und die Durchführungsverordnung mit detaillierten Vorschriften im Juli und August bekannt zu geben. Ein Ministeriumssprecher erklärte: „Wir bereiten eine Durchführungsverordnung vor, die die Vorschriften minimiert und sich auf die Förderung konzentriert, während wir so viele Meinungen der Industrie wie möglich einholen.”
