Regierung fordert Maßnahmen gegen missbräuchliche Grok AI Deepfakes
Die Regierung hat die soziale Medienplattform X aufgefordert, schnell zu reagieren, nachdem ihr KI-Chatbot Grok ohne Zustimmung sexualisierte Bilder von Frauen und Kindern erzeugt hat. Technologiesekretärin Liz Kendall bezeichnete die Situation als „absolut abscheulich“ und erklärte, dass die Verbreitung solcher degradierenden und missbräuchlichen Inhalte nicht toleriert werde.
Die Regierung intervenierte nach dringlichen Gesprächen der Medienregulierungsbehörde mit X und deren KI-Tochter. Es wurden Bedenken laut, dass Grok entblößte Bilder echter Personen generieren kann. Die Regulierungsbehörde kündigte eine schnelle Bewertung an, um mögliche Compliance-Verstöße zu prüfen, die eine Untersuchung rechtfertigen könnten.
Reaktion der Technologie-Sekretärin
Technologiesekretärin Kendall unterstützt vollumfänglich den Ansatz der Regulierungsbehörde sowie deren mögliche Durchsetzungsmaßnahmen. Sie betonte, dass es darum gehe, Gesetze durchzusetzen und nicht die Meinungsfreiheit einzuschränken. „Dienste und Betreiber haben die klare Verpflichtung, angemessen zu handeln“, sagte sie.
Missbrauch intimer Bilder und Cyberflashing wurden von der Regierung als priorisierte Straftaten im Online-Sicherheitsgesetz eingestuft, auch wenn KI zur Erzeugung der Bilder genutzt wird. Grok ist ein kostenloser virtueller Assistent, der auf Nutzeranfragen bei Erwähnung in Beiträgen reagiert.
Wachsende Bedenken
Die Internet Watch Foundation fand ebenfalls kriminelle Bilder von minderjährigen Mädchen, die offenbar mit Grok erstellt wurden. Die Besorgnis stieg seit Einführung eines „Bild bearbeiten“-Buttons, der es Nutzern erlaubt, Bilder mit Textanweisungen zu verändern, auch ohne das Originalbild hochzuladen oder Zustimmung der abgebildeten Person.
Mehrere Frauen machten öffentlich ihre Befürchtungen darüber bekannt, dass ihre Bilder ohne Zustimmung auf Plattformen verwendet wurden.
