Kalifornische Maßnahme zum Schutz von Kindern, die KI-Chatbots nutzen
Eine führende Interessenvertretung für Kindersicherheit hat sich mit einem Technologieunternehmen zusammengetan, um eine landesweite Abstimmung zu initiieren, die als die umfassendste Sicherheitsmaßnahme für Kinder im Zusammenhang mit künstlicher Intelligenz angesehen wird.
Einführung des Gesetzentwurfs
Wenn die Maßnahme im November auf den Stimmzettel kommt und von den Wählern in Kalifornien genehmigt wird, würde der Gesetzentwurf „Parents & Kids Safe AI Act“ Unternehmen verpflichten, eine Reihe von Anforderungen zum Schutz von Minderjährigen vor potenziell schädlichen Auswirkungen der Nutzung von KI zu übernehmen. Außerdem würde der Staatsanwalt ermächtigt, diese Regeln durchzusetzen.
Öffentliches Interesse an Kindersicherheit
Das öffentliche Interesse an der Online-Sicherheit von Kindern, insbesondere im Zusammenhang mit KI, hat in den letzten Jahren zugenommen. Ein tragischer Fall, der dieses Interesse verstärkt hat, ist die Klage der Eltern eines Jugendlichen, die behaupten, ihr Sohn sei von einem KI-Chatbot zu einem Suizid angestiftet worden.
Schutzmaßnahmen für Minderjährige
Der Gesetzentwurf würde KI-Unternehmen dazu verpflichten, Technologien zur Altersverifizierung zu nutzen, um sicherzustellen, dass Nutzer Minderjährige sind. Zudem wären Unternehmen verpflichtet, Minderjährige vor emotionaler Abhängigkeit von KI-Systemen zu schützen und sicherzustellen, dass sie nicht fälschlicherweise glauben, mit einem Menschen zu sprechen.
Weitere Anforderungen umfassen die Einführung von Sicherheitsmaßnahmen, um zu verhindern, dass Minderjährige Inhalte sehen, die Selbstverletzung, Essstörungen, Gewalt oder sexuelle Handlungen fördern. Werbung, die sich an Minderjährige richtet, wäre ebenfalls untersagt. Darüber hinaus müssten Unternehmen Daten über Minderjährige ohne elterliche Zustimmung nicht verkaufen und Eltern die Kontrolle über die Nutzung von KI durch ihre Kinder ermöglichen.
Überprüfung und Durchsetzung
Der Gesetzentwurf würde zudem unabhängige Sicherheitsprüfungen für KI-Unternehmen vorschreiben und jährliche Risikoanalysen für die Sicherheit von Kindern anordnen. Der Staatsanwalt wäre befugt, Ermittlungen einzuleiten und Geldstrafen gegen Unternehmen zu verhängen.
Fazit
Das „Parents & Kids Safe AI Act“ stellt eine Fusion zweier früherer Initiativen dar, die in der Vergangenheit vorgeschlagen wurden. Die Unterstützer haben bis zu einem bestimmten Datum Zeit, um die erforderlichen Unterschriften zu sammeln, um das Maßnahmenpaket auf den Wahlzettel zu bringen.
