Neuregelung der Künstlichen Intelligenz in Südkorea
Südkorea hat als erstes Land der Welt Gesetze erlassen, die den Betrieb von Systemen der Künstlichen Intelligenz regulieren. Ab sofort müssen mit Hilfe von KI erstellte Bilder eindeutig gekennzeichnet werden. Darüber hinaus sind Personen in wichtigen Tätigkeitsbereichen verpflichtet, die Arbeit von Computersystemen zu kontrollieren.
Ziele der neuen Gesetze
Die südkoreanischen Behörden geben an, dass die neuen Gesetze dazu dienen, das Vertrauen der Öffentlichkeit in Künstliche Intelligenz zu stärken und die Sicherheit zu gewährleisten. Das Ministerium für Wissenschaft und ICT bezeichnete diese Gesetzgebung als die zweite ihrer Art weltweit.
Inhalt der Gesetze
Nach dem neuen Gesetz müssen Unternehmen sicherstellen, dass Menschen die Kontrolle über sogenannte „hochleistungsfähige“ KI behalten, insbesondere in Bereichen wie nukleare Sicherheit, Trinkwasserproduktion, Transport, Gesundheitswesen und Finanzdienstleistungen.
Weitere Regelungen verlangen von Unternehmen, die Nutzer im Voraus über Produkte oder Dienstleistungen zu informieren, die hochleistungsfähige oder generative KI nutzen, und die Ergebnisse, die mit KI erzielt werden, deutlich zu kennzeichnen. Dazu gehören auch Deepfakes, die schwer von der Realität zu unterscheiden sind.
Übergangsfrist und Strafen
Die Behörden beabsichtigen nicht, Verstöße gegen die neue Gesetzgebung sofort zu bestrafen. Unternehmen wird eine einjährige Übergangsfrist eingeräumt, nach der Verwaltungsstrafen für Gesetzesverstöße verhängt werden. Diese Strafen können erheblich sein: Beispielsweise kann das Fehlen einer Kennzeichnung für generative KI mit einer Geldstrafe von bis zu 30 Millionen Won (ca. 20.400 US-Dollar) belegt werden.
Im Vergleich zu Europa sind diese Strafen jedoch gering. In der EU können Verstöße mit Geldstrafen von 1 % des globalen Umsatzes bei geringfügigen Verstößen bis zu 7 % für Verstöße gegen Verbote zur Nutzung von Hochrisiko-KI geahndet werden.
Reaktionen aus der Industrie
Viele Gründer und Führungskräfte südkoreanischer Technologieunternehmen äußern Unmut über die neuen Gesetze. Einige Formulierungen im Gesetz sind nicht präzise genug, was dazu führen könnte, dass Unternehmen von vornherein sicherere, aber weniger innovative Ansätze wählen, um Risiken zu vermeiden.
Der Präsident Südkoreas forderte die Politiker auf, die Bedenken der Branchenvertreter ernst zu nehmen und eine ausreichende Unterstützung für Unternehmensgründungen und Startups zu bieten.
Zukünftige Maßnahmen
Das Ministerium für Wissenschaft und ICT plant die Schaffung einer Plattform mit Empfehlungen sowie eines speziellen Unterstützungszentrums für Unternehmen während der Übergangszeit. Zudem wird weiterhin geprüft, wie die Belastungen für die Industrie minimiert werden können. Eine Verlängerung der Übergangsfrist wird in Betracht gezogen, sollte die Situation in der Industrie dies erfordern.
