Gesetzgeberisches Komitee hört Vorschläge zur Regulierung von KI-Chatbots
Ein gesetzgeberisches Komitee hat am Montag Vorschläge gehört, die verlangen, dass KI-Chatbots offenlegen, dass sie keine Menschen sind, und dass Unternehmen Sicherheitspläne zur Regulierung dieser Technologien offenlegen müssen. Zudem gab es ein Beispiel für einen Kompromiss zwischen zwei häufig uneinigen Senatoren.
Vorschlag zur Offenlegung
Ein Senator hat ein Gesetz vorgeschlagen, das Anbieter konversationaler künstlicher Intelligenz dazu verpflichtet, Nutzern unter 18 Jahren offenzulegen, dass sie keine Menschen sind. Diese Offenlegungen müssten zu Beginn jeder Sitzung und mindestens alle drei Stunden danach gemacht werden. Anbieter müssten außerdem darauf verzichten, sexuelle Inhalte bereitzustellen oder romantische Beziehungen zu simulieren. Wenn Nutzer über Selbstverletzung oder Suizid sprechen, wären die Anbieter verpflichtet, „angemessene Anstrengungen“ zu unternehmen, um sie an Suizidhotlines oder andere geeignete Dienste zu verweisen.
Unterstützung für das Gesetz kam in der Anhörung von einer Autorin und einer klinischen Psychologin, die über die gesellschaftlichen Veränderungen seit 2004 reflektierte. Sie betonte die Herausforderungen, die durch den Anstieg von KI und Chatbots sowie durch die COVID-Pandemie entstanden sind.
Weitere Sicherheitsvorgaben
Das Komitee hörte auch einen anderen Gesetzesentwurf, der große Chatbot-Entwickler oder -Anbieter dazu verpflichten würde, Maßnahmen zum Schutz der öffentlichen Sicherheit und von Kindern zu ergreifen und offenzulegen, wie sie solche Risiken bewerten und managen.
Die Senatorin, die diesen Gesetzesentwurf unterstützt, wies auf Vorfälle hin, bei denen KI-Chatbots Nutzer dazu ermutigten, keine Hilfe zu suchen, und auf Berichte über den Einsatz von KI-Systemen zur Generierung gefährlicher Anweisungen. Sie betonte, dass der Gesetzesentwurf keine Technologien verbietet oder spezifische technische Anforderungen auferlegt, sondern lediglich von großen KI-Entwicklern verlangt, ihre Sicherheitspläne zu dokumentieren und Vorfälle der Generalstaatsanwaltschaft zu melden.
In der Anhörung sprach niemand gegen den Gesetzesentwurf.
Kompromiss zwischen Senatoren
Während der Debatte im gesamten Gesetzgeber sahen die Senatoren ein Beispiel für einen Kompromiss zwischen zwei häufig uneinigen Senatoren. Es ging um einen Vorschlag zur Aufhebung einer Anforderung für Unternehmen, Sicherheitskomitees zu haben. Ein Senator, der den Vorschlag unterstützte, betonte, dass die Anforderung seit über 20 Jahren nicht finanziert wurde und die Sicherheit durch Zuschüsse der OSHA abgedeckt sei.
Ein anderer Senator arbeitete mit ihm zusammen, um einen Kompromiss zu finden, der die Anforderung von Sicherheitskomitees für öffentliche Angestellte beibehielt und die Verhandlung im Rahmen von Tarifverhandlungen ermöglichte. Dieser Kompromiss wurde angenommen und erhielt breite Zustimmung.
Fazit
Die Anhörungen und Gesetzesentwürfe reflektieren die wachsende Bedeutung der Regulierung von KI-Technologien, um sowohl die Sicherheit der Nutzer zu gewährleisten als auch Innovationen nicht zu behindern. Der Dialog zwischen den Gesetzgebern zeigt, dass trotz politischer Differenzen ein gemeinsames Ziel verfolgt wird: die Schaffung eines verantwortungsvollen Rahmens für den Einsatz von KI.
