Neue Gesetzgebung zur KI-Sicherheit für Jugendliche in Kalifornien
In einem überraschenden Schritt, der die Zukunft der KI-Regulierung für Kinder und Jugendliche neu gestalten könnte, haben Kinder- und Jugendschutzorganisationen eine gemeinsame Initiative zur Unterstützung eines umfassenden Gesetzes zur KI-Sicherheit für Jugendliche bekannt gegeben. Dieses Gesetz, genannt „Parents & Kids Safe AI Act“, zielt darauf ab, strenge Regeln für den Einsatz von KI-Systemen bei Minderjährigen festzulegen.
Hintergrund der Initiative
Die Zusammenarbeit zwischen den beiden Organisationen entstand aus dem gemeinsamen Ziel, Kinder vor Schäden durch KI zu schützen und die Fehler der sozialen Medien zu vermeiden. Die Initiative wurde als die stärkste ihrer Art im Land beschrieben und setzt sich für starke Schutzmaßnahmen für Kinder und Jugendliche ein.
Wichtige Bestimmungen
Das Gesetz fordert unter anderem eine Altersverifizierung, um sicherzustellen, dass Kinder angemessen geschützt werden, wenn Unternehmen nicht sicher sind, ob der Benutzer ein Erwachsener oder ein Kind ist. Außerdem wird der bestehende Datenschutz in Kalifornien erweitert, sodass die Daten von Jugendlichen unter 18 Jahren ohne Zustimmung der Eltern nicht verkauft werden dürfen.
Schutzmaßnahmen gegen schädliches KI-Verhalten
Ein zentrales Element der Initiative sind Schutzmaßnahmen, die Minderjährige vor schädlichem oder manipulativen KI-Verhalten schützen sollen. Dies betrifft insbesondere KI-Chatbots, die menschliche Beziehungen simulieren. Das Gesetz soll verhindern, dass Kinder emotional abhängig gemacht oder in romantische Beziehungen hineinmanipuliert werden.
Durchsetzung und zukünftige Schritte
Ein wichtiger Bestandteil des Gesetzes ist die Rolle des Generalstaatsanwalts von Kalifornien, der für die Erstellung von Implementierungsrichtlinien und die Überwachung der Einhaltung verantwortlich ist. Die nächsten Schritte umfassen die Formalisierung des Wahlkomitees hinter dem „Parents & Kids Safe AI Act“ und die Möglichkeit, den Gesetzesentwurf entweder durch eine legislative Initiative oder eine landesweite Wahl im November voranzubringen.
Wenn erfolgreich, könnte dieses Gesetz nicht nur als kalifornischer Standard dienen, sondern auch als nationales Modell für die Regulierung von KI, bevor sie eine Generation ohne Aufsicht prägt.
