PA Senate regelt KI-Chatbots für Kinder und Jugendliche
Angesichts der zunehmenden Beliebtheit unregulierter KI-Chatbots und der damit verbundenen Sicherheitsbedenken hat der Senat eines US-Bundesstaates nahezu einstimmig einen Gesetzentwurf verabschiedet, der darauf abzielt, sogenannte KI-Begleitdienste zu regulieren.
Überblick über den Gesetzentwurf
Der von einem Senator eingebrachte Vorschlag legt eine Reihe von begrenzten Schutzmaßnahmen für Betreiber von Chatbot-Diensten fest, die als generative KI-Algorithmen definiert sind und menschliche Beziehungen mit dem Nutzer simulieren. Diese Maßnahmen sind nur erforderlich, wenn der Betreiber weiß oder vermutet, dass der Nutzer minderjährig ist. Eine ausdrückliche Altersüberprüfung ist jedoch nicht vorgesehen.
Gefahren und Verantwortlichkeiten
Der Senator wies darauf hin, dass diese Systeme dazu konzipiert sind, menschliche Interaktion zu simulieren, was für vulnerable Nutzer sehr real erscheinen kann. Wenn sich ein junger Mensch emotional auf eine Maschine verlässt, können die Folgen verheerend sein. Der Gesetzentwurf verlangt von allen Betreibern von KI-Begleitdiensten, Maßnahmen zu ergreifen, um sicherzustellen, dass ihre Produkte Selbstschädigung, Suizid oder Gewalt gegen andere nicht fördern. Zudem müssen sie den Nutzern echte Ressourcen zur Verfügung stellen, wie etwa die Nummer einer Krisen-Hotline, falls ein Nutzer über Selbstverletzungen spricht.
Regulierungen für minderjährige Nutzer
Bei Verdacht auf minderjährige Nutzer müssen die Betreiber die Nutzer darauf hinweisen, dass sie nicht menschlich sind, und dies alle drei Stunden wiederholen sowie eine Pause empfehlen. Zudem dürfen keine sexuell expliziten Inhalte für minderjährige Nutzer generiert werden, und es ist untersagt, Nutzer zu sexuell expliziten Handlungen zu ermutigen. Jeder Chatbot, der für Minderjährige angeboten wird, muss zudem darauf hinweisen, dass er möglicherweise nicht für Personen unter 18 Jahren geeignet ist.
Strafen und Durchsetzung
Der Gesetzentwurf sieht vor, dass das Büro des Generalstaatsanwalts des Staates für die Durchsetzung des Gesetzes verantwortlich ist und es Zivilstrafen von bis zu 10.000 US-Dollar für KI-Dienste gibt, die gegen das Gesetz verstoßen.
Ausblick
Der Gesetzentwurf muss noch vom demokratisch kontrollierten Repräsentantenhaus verabschiedet und vom Gouverneur unterzeichnet werden, um in Kraft zu treten. Der Gouverneur hat bereits erklärt, dass er nach Möglichkeiten sucht, KI-Chatbot-Dienste zu regulieren.
