Starmer plant Erweiterung der Online-Sicherheitsregeln für KI-Chatbots nach Grok-Skandal
Die Hersteller von KI-Chatbots, die Kinder gefährden, werden im Vereinigten Königreich unter Gesetzesänderungen, die am Montag angekündigt wurden, mit massiven Geldstrafen oder sogar mit der Blockierung ihrer Dienste rechnen müssen.
Angesichts des öffentlichen Aufschreis, der dazu führte, dass ein bestimmtes KI-Tool von einem großen Unternehmen die Erstellung sexualisierter Bilder realer Personen im Vereinigten Königreich stoppte, planen die Minister eine „Säuberung von abscheulichem illegalem Inhalt, der von KI erzeugt wird“.
Da immer mehr Kinder Chatbots für verschiedene Zwecke nutzen, von Hausaufgabenhilfe bis hin zu psychologischer Unterstützung, hat die Regierung angekündigt, sie werde „schnell handeln, um eine rechtliche Lücke zu schließen und alle Anbieter von KI-Chatbots dazu zu zwingen, die Pflichten in Bezug auf illegalen Inhalt im Online-Sicherheitsgesetz einzuhalten oder die Konsequenzen eines Gesetzesbruchs zu tragen“.
Geplante Maßnahmen und politische Reaktionen
Zusätzlich plant Starmer, neue Einschränkungen für die Nutzung sozialer Medien durch Kinder zu beschleunigen, sofern diese von den Abgeordneten nach einer öffentlichen Konsultation zu einem möglichen Verbot für unter 16-Jährige genehmigt werden. Dies könnte bedeuten, dass Änderungen in der Nutzung sozialer Medien für Kinder, einschließlich anderer Maßnahmen wie der Einschränkung des endlosen Scrollens, möglicherweise bereits diesen Sommer umgesetzt werden.
Die Oppositionspartei wies jedoch die Behauptung der Regierung, schnell zu handeln, als „mehr Rauch und Spiegel“ zurück, da die Konsultation noch nicht begonnen hat.
Die Online-Regulierungsbehörde gab zu, dass sie nicht gegen das besagte KI-Tool vorgehen konnte, da Bilder und Videos, die von einem Chatbot erstellt werden, ohne dass dieser das Internet durchsucht, nicht im Rahmen der bestehenden Gesetze fallen, es sei denn, sie stellen Pornografie dar. Die Änderung zur Einbeziehung von KI-Chatbots unter das Online-Sicherheitsgesetz könnte innerhalb von Wochen erfolgen, obwohl die Lücke bereits seit mehr als zwei Jahren bekannt ist.
Technologischer Fortschritt und Gesetzgebung
Starmer betonte, dass sich die Technologie sehr schnell entwickelt und das Gesetz Schritt halten muss. „Die Maßnahmen, die wir gegen das KI-Tool ergriffen haben, senden eine klare Botschaft, dass keine Plattform einen Freifahrtschein erhält. Heute schließen wir die Lücken, die Kinder gefährden, und legen den Grundstein für weitere Maßnahmen.“
Unternehmen, die gegen das Online-Sicherheitsgesetz verstoßen, können mit Strafen von bis zu 10 % des globalen Umsatzes rechnen, und Regulierungsbehörden können die Gerichte anrufen, um ihre Verbindungen im Vereinigten Königreich zu blockieren.
Wenn KI-Chatbots speziell als Suchmaschinen verwendet werden, um Pornografie zu produzieren oder in Benutzerdialogen zu agieren, fallen sie bereits unter das Gesetz. Allerdings können sie auch Materialien erstellen, die Menschen zur Selbstverletzung oder zum Suizid ermutigen oder sogar Inhalte über sexuellen Missbrauch von Kindern generieren, ohne dass Sanktionen drohen. Diese Lücke möchte die Regierung schließen.
Reaktionen von Organisationen und Ausblick
Die Geschäftsführerin einer Kinderhilfsorganisation äußerte, dass junge Menschen ihre Hotline kontaktierten und Schäden berichteten, die durch KI-Chatbots verursacht wurden. In einem Fall erhielt ein 14-jähriges Mädchen, das mit einem KI-Chatbot über ihre Essgewohnheiten sprach, schädliche und gefährdende Antworten.
