Landmark-Gesetze in Südkorea erfordern Kennzeichnung von KI-generierten Inhalten
Südkorea hat eine Reihe bahnbrechender Gesetze zur Regulierung von künstlicher Intelligenz (KI) eingeführt, die Unternehmen vorschreiben, KI-generierte Inhalte deutlich zu kennzeichnen.
Einführung des KI-Grundgesetzes
Die neue Gesetzgebung, bekannt als das sechs Kapitel umfassende, 43 Artikel lange „KI-Grundgesetz“, trat heute in Südkorea in Kraft. Die Gesetze werden von der Regierung als eine „Weltpremiere“ dargestellt, die auf nationaler Ebene vollständig durchgesetzt wird. Südkoreanische Beamte geben an, dass das Gesetz das Vertrauen und die Sicherheit in KI verbessern soll, während es die Ambitionen des Landes unterstützt, einer der drei größten KI-Mächte der Welt zu werden, neben den USA und China.
Kennzeichnungspflichten
Gemäß dem Gesetz müssen Unternehmen, die KI-Dienste anbieten, Inhalte, die mit Hilfe von künstlicher Intelligenz erstellt wurden, kennzeichnen. Laut einem Bericht müssen klar künstliche Ausgaben wie Cartoons oder stilisierte Kunstwerke unsichtbare digitale Wasserzeichen enthalten, während realistischere Deepfakes sichtbare Labels tragen müssen.
Verpflichtungen für Hochrisiko-KI-Systeme
Die Gesetzgebung führt auch neue Verpflichtungen für sogenannte „Hochrisiko-KI“-Systeme ein. Dazu gehören Werkzeuge, die in Bereichen wie medizinischer Diagnose, Einstellungsentscheidungen und Kreditgenehmigungen verwendet werden. Betreiber dieser Systeme müssen Risikoanalysen durchführen und dokumentieren, wie ihre Systeme Entscheidungen treffen. Wenn ein Mensch die endgültige Entscheidung trifft, kann das System möglicherweise nicht in diese Kategorie fallen.
Sicherheitsberichte für KI-Entwickler
Entwickler von extrem leistungsstarken KI-Modellen müssen Sicherheitsberichte einreichen, obwohl die Beamten der Regierung zugeben, dass die festgelegte Schwelle so hoch ist, dass derzeit weltweit keine KI-Modelle diese erfüllen.
Strafen und Übergangsfristen
Unternehmen, die die Kennzeichnungspflichten nicht einhalten, könnten mit Geldstrafen von bis zu 30 Millionen Won (etwa 20.400 US-Dollar) belegt werden. Die Regierung hat jedoch eine Übergangsfrist von mindestens einem Jahr eingeführt, bevor Strafen durchgesetzt werden, um Zeit zur Verfeinerung der Regeln zu geben.
Kritik und Reaktionen
Laut Berichten haben lokale Technologie-Startups das KI-Grundgesetz kritisiert und argumentiert, dass die Offenlegungs- und Kennzeichnungspflichten zu weit gehen und Innovationen bremsen könnten. Die Regierungsbeamten weisen jedoch die Behauptungen zurück, dass das Gesetz übermäßig restriktiv ist, und betonen, dass 80 bis 90 Prozent der Gesetzgebung darauf abzielen, die KI-Industrie zu fördern, anstatt sie zu begrenzen.
Internationale Perspektiven
Der Schritt Südkoreas erfolgt, während andere Länder unterschiedliche Ansätze zur Regulierung von KI verfolgen. Die Europäische Union hat begonnen, KI-bezogene Regeln umzusetzen, aber die wichtigsten Bestimmungen ihres KI-Gesetzes, einschließlich Anforderungen für generative KI-Unternehmen zur Offenlegung urheberrechtlich geschützter Materialien, werden bis 2027 schrittweise eingeführt. In der Zwischenzeit hat das Weiße Haus letzten Monat eine Exekutive Anordnung unterzeichnet, die sich gegen als übermäßig restriktiv wahrgenommene Landesgesetze wendet, die die KI-Entwicklung behindern.
