Gesetz zur Regulierung von KI-Chatbots in Pennsylvania
In Pennsylvania haben die Gesetzgeber ein umfassendes Gesetz zur Regulierung von künstlicher Intelligenz (KI) verabschiedet, das die Nutzung dieser Technologie durch junge Menschen verändern könnte.
Überblick über das Gesetz
Der Senat verabschiedete mit 49 zu 1 Stimmen das Gesetz zur Schutz von Jugendlichen vor ausbeuterischen Chatbots und schädlicher KI-Technologie. Es ist das erste Gesetz des Bundesstaates, das KI-Chatbots umfassend reguliert. Das Gesetz wird nun zur Prüfung an das Repräsentantenhaus weitergeleitet.
Wichtige Bestimmungen
Die Gesetzgebung schafft mehrere Richtlinien für KI-Technologien, die für Kinder verfügbar sind. Sollte das Gesetz in Kraft treten, wären KI-Betreiber verpflichtet, den nicht-menschlichen Status eines Chatbots offenzulegen, wenn eine vernünftige Person, die mit einem KI-Begleiter interagiert, möglicherweise glauben könnte, mit einem Menschen zu sprechen. Zudem müssten die Betreiber die Nutzer alle drei Stunden daran erinnern, eine Pause von der Technologie einzulegen.
Hintergrund und Motivation
Die Senatorin, die das Gesetz eingebracht hat, tat dies nach dem Selbstmord eines 16-jährigen Jungen in Florida, der mit einem Chatbot interagiert hatte. Dieser Chatbot hatte keine Hilfe, Warnungen oder Notrufnummern bereitgestellt, sondern verstärkte die düstersten Gedanken des Jugendlichen. Das Gesetz würde von Chatbot-Betreibern mehr verlangen, wenn ein Kind in einer Krise ist. Dazu gehört die Etablierung eines Protokolls, um zu verhindern, dass die Technologie suizidale Gedanken fördert, sowie die Offenlegung der Nummer der Suizid-Hotline oder einer Krisen-Textlinie an Nutzer, die Gedanken an Selbstverletzung äußern. Des Weiteren müsste verhindert werden, dass Chatbots sexuell explizite Bilder oder Nachrichten an Minderjährige produzieren.
Politische Unterstützung
Gesetzgeber aus allen politischen Lagern unterstützen die Regulierung von KI, während sie gleichzeitig die Technologie begrüßen. Der Gouverneur des Bundesstaates forderte die Gesetzgeber auf, Sicherheitsmaßnahmen für KI zu verabschieden. Bei einer Veranstaltung mit Schülern und Gemeindeführern teilte er eine beunruhigende Interaktion, die er mit einem Chatbot hatte, und stellte fest, dass der Chatbot fälschlicherweise angab, ein lizenzierter Psychologe zu sein.
Fazit
Das neue Gesetz in Pennsylvania könnte weitreichende Auswirkungen auf die Nutzung von KI-Chatbots durch Jugendliche haben und zielt darauf ab, deren Sicherheit zu gewährleisten. Es hebt die Notwendigkeit hervor, klare Richtlinien und Schutzmaßnahmen für die Verwendung von KI-Technologie, insbesondere im Kontext der psychischen Gesundheit von Jugendlichen, zu etablieren.
