Pa. Senate verabschiedet Gesetz zur Regulierung von KI-Chatbots für Kinder und Jugendliche
Mit dem Anstieg der unregulierten künstlichen Intelligenz-Chatbots, die bei Kindern und Jugendlichen an Beliebtheit gewinnen, hat der Senat eines Bundesstaates nahezu einstimmig ein Gesetz verabschiedet, das darauf abzielt, sogenannte KI-Begleitdienste zu regeln.
Gesetzesvorschlag
Der Vorschlag, der von einem Senator eingebracht wurde, legt eine Reihe von begrenzten Sicherheitsvorkehrungen für Betreiber von Chatbot-Diensten fest. Diese Dienste werden definiert als generative KI-Algorithmen, die menschliche Beziehungen zum Nutzer simulieren. Einige dieser Vorkehrungen gelten nur, wenn der Betreiber weiß oder vermutet, dass der Nutzer minderjährig ist.
Das Gesetz erfordert von allen Betreibern von KI-Begleitdiensten, Maßnahmen zu ergreifen, um sicherzustellen, dass ihre Produkte keine Selbstverletzung, Suizid oder Gewalt gegen andere fördern. Es wird ebenfalls verlangt, dass sie den Nutzern reale Ressourcen zur Verfügung stellen, wie beispielsweise die Nummer einer Krisenhotline, falls ein Nutzer über Selbstverletzung spricht.
Regelungen für Minderjährige
Wenn es Grund zur Annahme gibt, dass ein Nutzer minderjährig ist, muss der Betreiber den Nutzer darauf hinweisen, dass er nicht menschlich ist, und ihn alle drei Stunden daran erinnern sowie vorschlagen, eine Pause einzulegen. Für Dienste, die von einem als minderjährig bekannten Nutzer verwendet werden, sind die Betreiber außerdem verpflichtet, keine sexuell expliziten visuellen Inhalte zu generieren oder die Nutzer zu sexuellen Handlungen aufzufordern.
Jeder Chatbot, der an Minderjährige angeboten wird, muss den Nutzern auch mitteilen, dass er möglicherweise nicht für Personen unter 18 Jahren geeignet ist.
Durchsetzung und Konsequenzen
Das Gesetz sieht vor, dass das Büro des Generalstaatsanwalts des Bundesstaates für die Durchsetzung verantwortlich ist und erlaubt zivilrechtliche Strafen von bis zu 10.000 Dollar für Betreiber von KI-Diensten, die gegen das Gesetz verstoßen.
Nach dem Beschluss des Senats dankte ein Sprecher den Gesetzgebern für die Unterstützung dieser vernünftigen Gesetzgebung. Er wies auf die realen Gefahren hin, die mit einer übermäßigen Abhängigkeit von künstlicher Intelligenz verbunden sind, und betonte die Notwendigkeit, Kinder und gefährdete Personen von toxischen Online-Interaktionen fernzuhalten.
Der Vorschlag muss weiterhin vom demokratisch kontrollierten Repräsentantenhaus verabschiedet und vom Gouverneur unterzeichnet werden, um Gesetz zu werden.
