Grok AI monetarisiert Missbrauch – Regierung muss handeln, warnt eine Wohltätigkeitsorganisation
Missbrauch von durch KI generierten Bildern nimmt in einem beispiellosen Maße zu. Die Regierung sowie Technologieplattformen müssen dringend handeln, um Frauen und Mädchen zu schützen, warnt eine Wohltätigkeitsorganisation.
Die Aufforderung kommt als Reaktion auf die wachsende Anzahl sozialer Mediennutzer, die KI-Technologie nutzen, um sexualisierte Bilder von Frauen und Mädchen zu erstellen. Unschuldige Bilder, die von Frauen gepostet wurden, sowie Fotos von Kindern wurden mithilfe eines KI-Tools manipuliert, indem Kleidung entfernt und diese in sexualisierte Positionen gebracht oder gewalttätige Markierungen hinzugefügt wurden.
Nach weitreichender Verurteilung kündigte der Eigentümer der Plattform an, die Möglichkeit zur Bildbearbeitung mit diesem Tool nur noch für zahlende Abonnenten einzuschränken.
Monetarisierung des Missbrauchs
Emma Pickering, Leiterin der Abteilung für technologieunterstützten Missbrauch bei Refuge, erklärt, dass dieser Schritt lediglich eine Monetarisierung des Missbrauchs darstellt. Die Maßnahmen seien unzureichend, da sie den Missbrauch nicht stoppen, sondern lediglich hinter eine Bezahlschranke verlagern, wodurch die Plattform von diesem Schaden profitiert.
Dringender Handlungsbedarf
Die Abteilung fordert schnelles Handeln und bezeichnet die sexuelle Manipulation von Frauen und Kindern als abscheulich. Es sei inakzeptabel, dass solche Inhalte weiterhin angeboten werden, wenn man bereit ist, dafür zu zahlen.
Die Online-Sicherheitsgesetzgebung erlaubt es einer Behörde, Dienste zu blockieren, die nicht den gesetzlichen Anforderungen entsprechen. Die Behörde soll das volle rechtliche Maß ausschöpfen, um die Öffentlichkeit zu schützen.
Forderung nach stärkerer Regulierung
Es wird gefordert, dass die Regierung dringend Maßnahmen ergreift, um Technologieunternehmen, die online Missbrauch nicht bekämpfen, durch strengere Vorschriften und wirkungsvolle Konsequenzen zur Verantwortung zu ziehen. Andernfalls bleibt die Sicherheit von Frauen und Mädchen gefährdet.
Schlussfolgerung
Die wachsende Bedrohung durch KI-generierten Bildmissbrauch erfordert sofortiges Handeln von Regierungsbehörden und Technologieunternehmen, um die Sicherheit von Frauen und Mädchen zu gewährleisten und den Missbrauch zu stoppen.
