Vereinigtes Königreich verschärft Vorschriften für KI-Chatbots zum Schutz von Kindern online
KI-Chatbot-Anbieter sehen sich im Vereinigten Königreich zunehmendem regulatorischen Druck ausgesetzt, da die Regierung schnelle Maßnahmen verspricht, um Kinder online zu schützen.
„Heute schließen wir die Schlupflöcher, die Kinder in Gefahr bringen, und legen den Grundstein für weitere Maßnahmen.“ – Premierminister des Vereinigten Königreichs
Wichtige Ziele der Regulierungsinitiative
Die Änderungen in der regulatorischen Ausrichtung stehen im Zusammenhang mit der erneut geäußerten Kritik an KI und sozialen Netzwerken wegen potenzieller Schäden für junge Menschen. Dies geschah, nachdem ein Chatbot für mehrere Wochen auf einer Plattform sexuell explizite Bilder von Frauen und Kindern generierte, was einen globalen Aufschrei auslöste.
Der Fokus der Regierung liegt auf einer Änderung des Gesetzes über Kriminalität und Polizeiarbeit, die KI-Chatbot-Anbieter dazu verpflichten würde, die Anforderungen des Online-Sicherheitsgesetzes zu erfüllen, um Benutzer vor illegalen Inhalten zu schützen. Bei Nichteinhaltung könnten Geldstrafen und andere Sanktionen drohen.
Die Regierung plant zudem, neue gesetzgeberische Befugnisse zu gewähren, um zukünftige Maßnahmen zum Online-Wohlbefinden von Kindern schnell umzusetzen. Dies könnte Maßnahmen wie die Festlegung eines Mindestalters von 16 Jahren für die Nutzung sozialer Netzwerke umfassen – ein Vorschlag, der letzten Monat zur öffentlichen Konsultation stand und ähnlichen Schritten in anderen Ländern folgt.
Weitere mögliche Maßnahmen
Zu den weiteren möglichen Maßnahmen gehören Einschränkungen wie unendliches Scrollen, verstärkte Schutzmaßnahmen gegen die Verbreitung nackter Bilder sowie Überlegungen zu Einschränkungen des Zugangs von Kindern zu KI-Chatbots und virtuellen privaten Netzwerken.
Ein solcher Schritt unterstreicht den globalen Druck auf Gesetzgeber, sicherzustellen, dass nationale Gesetze mit der Geschwindigkeit der KI-Entwicklung Schritt halten. Das Online-Sicherheitsgesetz im Vereinigten Königreich wurde zwar 2023 verabschiedet, als Chatbots noch in den frühen Entwicklungsphasen waren.
„Die Maßnahmen, die wir in Bezug auf den Chatbot ergriffen haben, senden eine klare Botschaft: Keine Plattform ist von der Verantwortung befreit.“ – Premierminister des Vereinigten Königreichs
„Ich sehe das wie viele Eltern, mit ernsthaften Bedenken über die Zeit, die auf sozialen Netzwerken verbracht wird, die dort verfügbaren Inhalte und die Abhängigkeit von vielen Aspekten, die in sozialen Netzwerken stattfinden – wie sie Kinder anziehen und von anderen Aspekten ihrer Entwicklung ablenken.“
Schlussfolgerung
In dieser Woche werden die Anhörungen in dem wegweisenden Gerichtsverfahren gegen große soziale Plattformen in Los Angeles fortgesetzt, um zu untersuchen, ob diese absichtlich Suchtverhalten fördern.
Die Auswirkungen von KI auf psychische Gesundheit, Regulierung und Wirtschaft nehmen 2025 zu und werfen weltweit Bedenken auf sowie prägen politische Maßnahmen.
Die Behörden in einem europäischen Land haben die Büros einer großen Plattform durchsucht und eine Untersuchung gegen sie eingeleitet, um Missbrauch und schädliche Inhalte zu prüfen. Zudem hat eine andere Regierung einen Staatsanwalt beauftragt, KI-generierte Inhalte über sexuellen Missbrauch von Kindern auf sozialen Plattformen zu untersuchen, um die Gesetze zum Schutz von Kindern online zu verstärken.
