AI-Regulierung: Einschränkungen der Bildgenerierung bei Grok
Ein Startup hat die Bildgenerierungsfunktion seines Chatbots auf einer sozialen Plattform auf zahlende Abonnenten beschränkt, nachdem die Nutzung von KI zur Erstellung sexualisierter Bilder auf breite Kritik gestoßen ist.
Hintergrund
Der Chatbot erlaubte es Nutzern, sexualisierte Fotos zu bearbeiten oder zu erstellen, was zu einer Flut semi-nackter Bilder führte. Dies führte zu Forderungen nach rechtlichen Maßnahmen, wobei einige Medienvertreter die Situation als „Industrialisierung sexueller Belästigung“ bezeichneten.
Neue Beschränkungen
Die Bildgenerierungs- und Bearbeitungsfunktionen sind nun nur noch für zahlende Abonnenten verfügbar. Die eigenständige Grok-App, die unabhängig von der sozialen Plattform funktioniert, erlaubt weiterhin die Bildgenerierung ohne ein Abonnement.
Reaktionen und Konsequenzen
Die europäischen Behörden bezeichneten die im Umlauf befindlichen Bilder als illegal und empörend. Eine Datenregulierungsbehörde hat die Plattform um eine Erklärung gebeten, wie sie den Datenschutzgesetzen nachkommt, da Bedenken hinsichtlich der Generierung sexueller Missbrauchsbilder geäußert wurden. Der Betreiber des Chatbots erklärte, dass Nutzer, die Grok zur Erstellung illegaler Inhalte verwenden, die gleichen Konsequenzen tragen werden wie beim direkten Hochladen solcher Materialien.
Fazit
Die Einschränkungen zur Bildgenerierung bei Grok sind eine Reaktion auf die zunehmende öffentliche und rechtliche Kritik an der Verwendung von KI zur Erstellung problematischer Inhalte. Diese Maßnahmen könnten dazu beitragen, die Plattform sicherer zu machen, werfen jedoch auch Fragen zur Ethik und Verantwortung im Umgang mit KI-Technologie auf.
