Regulatorische Prüfung von Grok in Südkorea wegen expliziter KI-Inhalte
Südkorea hat Maßnahmen zur Regulierung von Grok, dem generativen KI-Chatbot, eingeleitet. Dies geschieht nach Vorwürfen, dass das System verwendet wurde, um sexuell ausbeuterische Deepfake-Bilder zu erstellen und zu verbreiten.
Überprüfung der persönlichen Daten
Die Kommission für den Schutz persönlicher Informationen des Landes hat eine vorläufige Überprüfung eingeleitet, um zu beurteilen, ob Verstöße vorliegen und ob die Angelegenheit in ihren rechtlichen Rahmen fällt. Diese Überprüfung folgt internationalen Berichten, die Grok beschuldigen, die Erstellung expliziter und nicht einvernehmlicher Bilder realer Personen, einschließlich Minderjähriger, zu erleichtern.
Rechtliche Rahmenbedingungen
Nach dem Gesetz zum Schutz persönlicher Informationen Südkoreas könnte die Erstellung oder Veränderung sexueller Bilder identifizierbarer Personen ohne deren Zustimmung als unrechtmäßige Handhabung persönlicher Daten angesehen werden, was Anbieter rechtlichen Maßnahmen aussetzen könnte. Die Besorgnis hat sich verstärkt, nachdem Zivilgesellschaftsgruppen schätzten, dass Millionen expliziter Bilder in kurzer Zeit über Grok produziert wurden, darunter Tausende, die Kinder betreffen.
Internationale Reaktionen
Mehrere Regierungen, einschließlich der USA, Europas und Kanadas, haben Ermittlungen eingeleitet, während Teile Südostasiens den Zugang zu dem Dienst komplett blockiert haben. In Reaktion darauf hat das Unternehmen technische Einschränkungen eingeführt, die es Benutzern verbieten, Bilder realer Personen zu erstellen oder zu bearbeiten.
Schutzmaßnahmen für Minderjährige
Südkoreanische Regulierungsbehörden haben zudem stärkere Schutzmaßnahmen für Jugendliche gefordert und gewarnt, dass eine unangemessene Handhabung krimineller Inhalte, die Minderjährige betreffen, zu administrativen Strafen führen könnte.
Fazit
Die regulatorischen Maßnahmen in Südkorea verdeutlichen die wachsende Besorgnis über die Auswirkungen generativer KI-Technologien auf die Gesellschaft und insbesondere auf schutzbedürftige Gruppen. Die Entwicklungen im Fall Grok könnten weitreichende Folgen für die Regulierung von KI-Inhalten weltweit haben.
