OpenAI unterstützt kalifornische Initiative zur KI-Sicherheit für Jugendliche
OpenAI hat seine Unterstützung für eine vorgeschlagene Abstimmung in Kalifornien zur Sicherheit von Jugendlichen im Umgang mit KI bestätigt. Diese Initiative umfasst neue Anforderungen an Elternkontrollen, Altersverifizierung und Sicherheitsmaßnahmen für Kinder, die KI-Tools nutzen.
Umfang der vorgeschlagenen Schutzmaßnahmen
Die Ankündigung wurde in einem Beitrag auf LinkedIn dargelegt, in dem die Partnerschaft mit einem Medienunternehmen und die gemeinsame Unterstützung für die Maßnahme hervorgehoben wurden. Die vorgeschlagene Gesetzgebung reagiert auf wachsende Bedenken hinsichtlich der Interaktion von Kindern mit KI-Tools und dem Mangel an konsistenten Sicherheitsvorkehrungen auf verschiedenen Plattformen.
Die neue Maßnahme erfordert, dass KI-Tools Datenschutzmaßnahmen zur Altersbestimmung nutzen, um zwischen Kindern und Erwachsenen zu unterscheiden. Es müssen benutzerfreundliche Elternkontrollen angeboten werden, darunter Zeitlimits und stärkere Schutzmaßnahmen für Kinder unter 13 Jahren. Zudem sind Vorkehrungen zu entwickeln, um zu verhindern, dass KI-Ausgaben Verhaltensweisen fördern, die emotionale Abhängigkeit oder sexualisierte Interaktionen begünstigen. Klare Protokolle für Krisensituationen im Zusammenhang mit Selbstverletzung und Suizidrisiken müssen ebenfalls implementiert werden, ebenso wie unabhängige Sicherheitsprüfungen für Kinder mit öffentlicher Berichterstattung.
Zielgruppe der Maßnahme
Der „Parents & Kids Safe AI Act“ richtet sich an KI-Chatbots und Systeme, die Konversationen simulieren und bereits von Kindern und Jugendlichen genutzt werden. Unternehmen sind verpflichtet, zwischen Erwachsenen und Minderjährigen zu unterscheiden, kindergerichtete Werbung zu verbieten und die Erhebung, den Verkauf oder die Weitergabe von Daten über Kinder ohne elterliche Zustimmung einzuschränken.
Zusätzliche Anforderungen beinhalten Sicherheitsvorkehrungen, um zu verhindern, dass KI-Systeme Selbstverletzung, Essstörungen, Gewalt oder sexuell eindeutiges Verhalten fördern, sowie Einschränkungen für KI-Begleiter für Nutzer unter 18 Jahren. Die Maßnahme würde auch Durchsetzungsmechanismen einführen, darunter unabhängige Prüfungen, jährliche Risikobewertungen und Aufsicht durch die kalifornische Generalstaatsanwaltschaft, mit finanziellen Strafen bei Nichteinhaltung.
Verbindung zur KI-Kompetenz
In dem LinkedIn-Beitrag wird die vorgeschlagene Gesetzgebung mit breiteren Diskussionen über KI-Kompetenz und langfristige Akzeptanz verknüpft. Es wird betont, dass die heutigen Kinder und Jugendlichen die erste Generation sind, die mit KI aufwächst. Während KI-Kompetenz für die zukünftige wirtschaftliche Teilhabe entscheidend ist, müssen Schutzmaßnahmen vorhanden sein, damit Familien und Pädagogen sich sicher fühlen, Kindern die Nutzung dieser Tools zu ermöglichen.
Die Initiative zeigt, dass bei der Nutzung von KI-Tools für Jugendliche die Sicherheit Vorrang vor Privatsphäre und Freiheit hat.
