Oregon plant Regulierung von KI-Chatbots
Gesetzgeber, die die Regulierung von sozialen Medien verpasst haben, haben jetzt die Möglichkeit, die Auswirkungen der nächsten aufkommenden Technologie auf die Jugend anzugehen. Der Gesetzesentwurf zur Regulierung von künstlichen Intelligenz-Chatbots wurde im Senat vorgestellt.
Der Gesetzentwurf
Der Gesetzentwurf sieht vor, dass KI-Programme wie ChatGPT die Benutzer regelmäßig daran erinnern, dass sie mit einem KI-Tool und nicht mit einem Menschen sprechen. Dies folgt einem kürzlich verabschiedeten Gesetz in Kalifornien und ähnlicher Gesetzgebung in anderen Bundesstaaten.
Jugendlicher Einsatz von KI
Die Nutzung von KI unter Jugendlichen nimmt zu, wobei eine erhebliche Anzahl von ihnen KI-Chatbots als Begleiter für emotionale Unterstützung oder zur Diskussion über psychische Gesundheit verwendet. Forschung hat gezeigt, dass Jugendliche Gespräche mit KI-Chatbots oft als ebenso befriedigend empfinden wie reale Gespräche.
Schutzmaßnahmen
Der Gesetzentwurf fordert zusätzliche Sicherheitsvorkehrungen für den Zugang von Jugendlichen zu KI, einschließlich der Verpflichtung für Programmierer, darauf hinzuweisen, dass die Plattform möglicherweise nicht für Minderjährige geeignet ist, und dass sexuell explizite Inhalte nicht angezeigt oder gefördert werden dürfen.
Prävention von Suizidgedanken
Zusätzlich soll der Gesetzentwurf Programme vorschreiben, die Anzeichen von Suizidgedanken oder Selbstverletzung erkennen und die Benutzer an eine Krisenhotline verweisen. Diese Protokolle müssen öffentlich verfügbar sein.
Zusammenarbeit mit Organisationen
Es wurden Gespräche mit Organisationen geführt, die Unterstützung im Bereich psychische Gesundheit anbieten. Ziel ist es, sicherzustellen, dass KI-Chatbots den Benutzern auch psychische Gesundheitsressourcen anbieten können.
Reaktionen auf den Gesetzentwurf
Obwohl es Bedenken hinsichtlich der Häufigkeit der Benachrichtigungen im Vergleich zu anderen Bundesstaaten gibt, wird an einer Einigung gearbeitet, um die Anforderungen klar zu definieren.
Schlussfolgerung
Der Gesetzentwurf könnte rechtlichen Herausforderungen gegenüberstehen, hat jedoch das Ziel, unregulierte KI-Nutzung anzugehen und die Sicherheit von Jugendlichen zu gewährleisten. Die Gesetzgeber möchten verhindern, dass die Technologie negative Auswirkungen auf die Jugend hat, ähnlich wie es bei sozialen Medien der Fall war.
