Bundesstaatliche Sicherheitsmaßnahmen zum Schutz von Jugendlichen vor KI in Kalifornien
Eine neue bundesstaatliche Abstimmungsinitiative in Kalifornien zielt darauf ab, den Schutz von Kindern und Jugendlichen bei der Nutzung von Künstlicher Intelligenz (KI) zu verbessern. Diese Initiative wurde kürzlich während einer virtuellen Pressekonferenz vorgestellt und genießt öffentliche Unterstützung.
Hintergrund
Die vorgeschlagene Maßnahme sieht Anforderungen an Altersverifikation, Datenschutz, elterliche Kontrollen und unabhängige Sicherheitsprüfungen für KI-Produkte vor, die von Minderjährigen verwendet werden. Sie folgt auf frühere legislative Versuche, die jedoch erfolglos blieben.
Frühere legislative Bemühungen
Im vergangenen Jahr wurde ein Gesetzesentwurf zur KI-Sicherheit für Jugendliche eingebracht, der jedoch nicht unterzeichnet wurde. Der Gouverneur äußerte Bedenken, dass der Entwurf faktisch ein Verbot der Nutzung von Chatbots durch Minderjährige bedeuten könnte.
Neue Anforderungen der vorgeschlagenen Maßnahme
Die neue Maßnahme umfasst verschiedene Anforderungen für KI, die von Minderjährigen genutzt wird. Dazu gehört die Altersverifikation, um sicherzustellen, dass Kinder unter 18 Jahren geschützt sind.
Außerdem soll Werbung, die sich an Kinder richtet, verboten werden, und der Verkauf von Daten Minderjähriger ohne elterliche Zustimmung eingeschränkt werden. Diese Regelung würde den Schutz auf alle Nutzer unter 18 Jahren ausweiten.
Die Maßnahme fordert außerdem Sicherheitsvorkehrungen, um zu verhindern, dass KI-Systeme Inhalte zu Selbstverletzung, Essstörungen, Gewalt oder sexuellen Handlungen generieren oder fördern.
Elterliche Kontrollen und Audits
Die Initiative verlangt, dass KI-Unternehmen den Eltern leistungsfähige und benutzerfreundliche Kontrollmöglichkeiten bieten, mit denen sie die Nutzung von KI durch ihre Kinder überwachen und begrenzen können.
Darüber hinaus schreibt die Gesetzgebung unabhängige Prüfungen der Sicherheitsrisiken für Kinder vor, deren Ergebnisse dem kalifornischen Generalstaatsanwalt vorgelegt werden müssen.
Ausblick
Die Initiatoren verfolgen eine doppelte Strategie: Sie setzen sowohl auf legislative Maßnahmen als auch auf die Möglichkeit einer Abstimmung, falls dies notwendig wird. Die vorgeschlagene Regelung könnte beeinflussen, wie Schulen KI-Tools bewerten und wie die Sicherheit von Schülern im Unterricht gewährleistet wird.
Schlussfolgerung
Der Bedarf an ernsthaften Schutzmaßnahmen für Kinder und Jugendliche im Umgang mit KI wird von vielen als ein unpolitisches Thema anerkannt. Es besteht Einigkeit darüber, dass umfassende Regelungen nötig sind, um die Sicherheit und das Wohlergehen von Kindern in einer zunehmend technologiegetriebenen Welt zu gewährleisten.
