Kendall drängt X, Groks KI-sexuellen Deepfakes einzudämmen
Die Technologieministerin hat Elon Musks Social-Media-Plattform X aufgefordert, den Einsatz des KI-Chatbots Grok zur Erstellung nicht einvernehmlicher sexualisierter Bilder von Frauen und Mädchen zu unterbinden.
Diese Aufforderung folgt den Bedenken, dass Grok verwendet werden kann, um sexualisierte Bilder ohne Zustimmung zu generieren. Dies verstärkt die Überprüfung, wie große Plattformen mit schädlichen und illegalen Inhalten umgehen, die mit generativen KI-Tools verbunden sind.
Rechtliche Pflichten
Das britische Online-Sicherheitsgesetz von 2023 behandelt die Verbreitung intimer Bilder ohne Zustimmung als Straftat, wenn der Inhalt in den Anwendungsbereich der Gesetzgebung fällt. Dazu gehören auch KI-generierte Deepfakes, die „so erscheinen, als ob“ jemand in einem intimen Zustand dargestellt wird.
Das Gesetz verpflichtet Unternehmen, gegen illegale Inhalte und Aktivitäten vorzugehen. Plattformen müssen Maßnahmen ergreifen, um das Risiko zu verringern, dass ihre Dienste für illegale Handlungen genutzt werden, und Systeme zur Entfernung illegaler Inhalte einführen, wenn sie auftreten.
Durchsetzung und Beschwerden
Die Durchsetzung des Online-Sicherheitsgesetzes obliegt der zuständigen Behörde, die Strafen von bis zu 18 Millionen Pfund oder 10 Prozent des weltweiten Umsatzes verhängen kann, je nachdem, was höher ist. In schweren Fällen kann auch ein Gerichtsbeschluss zur „Unterbrechung von Geschäften“ beantragt werden.
Berichte deuten darauf hin, dass X möglicherweise zur Verantwortung gezogen werden kann, wenn es nicht auf Meldungen von Nutzern reagiert hat. Die Behörde wird auch nachweisen wollen, dass X proaktive Schritte unternommen hat, um das Erscheinen solcher Inhalte zu verhindern.
Implikationen und Risiken
Die Bedenken bezüglich Grok werfen Fragen darüber auf, wie Plattformen KI-Funktionen verwalten, die in Verbraucherangebote integriert sind. Die Regulierung hat signalisiert, dass bestehende Sicherheits- und Inhaltsgesetze auch dann gelten, wenn solche Tools für illegale Aktivitäten genutzt werden.
Das Online-Sicherheitsgesetz setzt Erwartungen für proaktive und schnelle Maßnahmen, wenn es um priorisierte Straftaten geht. Die Behörde wird prüfen, welche Schritte eine Plattform unternommen hat, bevor und nachdem schädliches Material aufgetreten ist.
Fazit
Die Diskussion um Grok und ähnliche Technologien ist Teil einer breiteren politischen Debatte darüber, wie generative KI-Tools Online-Schäden beeinflussen. Die Notwendigkeit, klare Richtlinien und Maßnahmen zum Schutz vor illegalen Inhalten zu implementieren, ist dringender denn je.
