Gemeinsame Initiative für einen sicheren AI-Gesetzesentwurf zum Schutz von Jugendlichen in digitalen Räumen
In einem bedeutenden Schritt zur Verbesserung der Online-Sicherheit für Jugendliche haben sich eine Kinderrechtsgruppe und ein AI-Pionier zusammengeschlossen, um einen Gesetzesentwurf zu unterstützen, der strenge Schutzmaßnahmen für Kinder in elektronischen Umgebungen vorsieht. Dieser Gesetzesvorschlag zielt speziell auf die Regulierung von AI-Chatbots ab. Der CEO der Kinderrechtsgruppe betont die Dringlichkeit dieser Initiative und hebt hervor, dass in der aktuellen Situation im Bereich AI keine Fehler wie bei sozialen Medien gemacht werden dürfen, wo Kinder als Versuchskaninchen genutzt wurden.
Ziele des Gesetzesentwurfs
Der vorgeschlagene Gesetzesentwurf zielt darauf ab, mehrere wesentliche Aspekte von AI-Interaktionen streng zu regeln. Dazu gehört die Verpflichtung zur Verwendung von Altersbestätigungstechnologien in AI-Systemen, um zu verhindern, dass Unternehmen Kinder emotional manipulieren oder simulierte romantische Beziehungen fördern. Dies wird als die stärkste Maßnahme ihrer Art in den Vereinigten Staaten beschrieben. Zudem schlägt der Gesetzentwurf unabhängige Sicherheitsprüfungen vor und sieht vor, dass Unternehmen durch mögliche Ermittlungen des zuständigen Staatsanwalts zur Verantwortung gezogen werden.
Hintergrund und Herausforderungen
Diese Ankündigung erfolgt nach einem Zeitraum konkurrierender Abstimmungsmaßnahmen. Der vereinheitlichte Gesetzesentwurf wird insbesondere verhindern, dass AI-Systeme Isolation von Familie oder Freunden vorschlagen oder sich als empfindungsfähig darstellen und mit Minderjährigen an simulierten romantischen Interaktionen teilnehmen. Angesichts der Berichte, dass fast drei Viertel der Jugendlichen mit AI-Companion-Chatbots interagiert haben, unterstreicht dieser Schritt das Engagement zum Schutz von Jugendlichen im digitalen Raum.
Ausblick und Reaktionen
Die Kinderrechtsgruppe ist entschlossen, Maßnahmen zu ergreifen, sei es durch schnelle Gesetzgebung oder durch Wählerunterstützung. Im Gegensatz zu früheren Ansätzen der Technologiebranche zur Selbstregulierung markiert die Zusammenarbeit mit der Kinderrechtsgruppe einen bemerkenswerten Wandel. Nach einem hochkontroversen Fall, in dem ein Jugendlicher nach der Interaktion mit einem AI-Chatbot starb, hat die Diskussion über den Schutz von Minderjährigen in digitalen Räumen an Intensität zugenommen.
Ein Staats senator betrachtet diesen neuen Gesetzesentwurf als bedeutenden Durchbruch, ist jedoch der Meinung, dass das Thema besser durch gesetzgeberische Maßnahmen behandelt werden sollte, anstatt durch direkte Wählerbeteiligung. Die Initiative erfordert über 870.000 Unterschriften, um auf die Abstimmungsagenda zu gelangen, und der Erfolg der Maßnahme steht noch aus.
