Warum die Grok-Entscheidung von X einen Wendepunkt für die KI-Ethischkeit darstellt
Elon Musks X hat weitreichende Einschränkungen für sein Grok-KI-Tool eingeführt, nachdem es massive Kritik wegen der Möglichkeit gegeben hat, sexualisierte Bilder realer Personen zu erstellen.
Das Unternehmen bestätigte, dass Grok in Rechtsordnungen, in denen es illegal ist, keine Fotos von Personen mehr bearbeiten kann, um sie in freizügiger Kleidung darzustellen.
„Wir haben technologische Maßnahmen implementiert, um zu verhindern, dass das Grok-Konto die Bearbeitung von Bildern realer Personen in freizügiger Kleidung ermöglicht“, heißt es in einer Ankündigung von X.
Reaktionen auf die Einschränkungen von X’s Grok
Die unabhängige Online-Sicherheitsbehörde des Vereinigten Königreichs hat eine formelle Untersuchung gegen X unter dem Online-Sicherheitsgesetz eingeleitet, um festzustellen, ob das Unternehmen seinen Pflichten nachgekommen ist, die Menschen im Vereinigten Königreich vor illegalen Inhalten zu schützen.
Die Behörde äußerte ernsthafte Bedenken hinsichtlich einer Funktion von Grok, die unangebrachte Bilder von Menschen und sexualisierte Bilder von Kindern produziert. X hat Maßnahmen ergriffen, um die Erstellung intimer Bilder von Personen zu verhindern.
Dies wurde als bedeutendes politisches Zugeständnis begrüßt, und die Regierung sprach von „Rechtfertigung“, nachdem der Premierminister zuvor die Untätigkeit von X als „schrecklich“, „ekelhaft“ und „beschämend“ bezeichnet hatte.
In den USA hat der Generalstaatsanwalt von Kalifornien eine Untersuchung zur Verbreitung sexuell expliziter KI-Deepfakes eingeleitet, die von Grok generiert wurden.
Maßnahmen und Richtlinien
X gibt an, in Rechtsordnungen, in denen es illegal ist, die Möglichkeit für alle Nutzer geoblockt zu haben, Bilder realer Personen in Bikinis, Unterwäsche und ähnlicher Kleidung zu erstellen. Nur zahlende Abonnenten behalten den Zugang zu den Bildbearbeitungswerkzeugen von Grok, was eine zusätzliche „Schutzschicht“ darstellt.
Elon Musk hat betont, dass Grok die Gesetze jedes Landes einhält und nicht spontan Bilder generiert, sondern nur auf Nutzeranfragen reagiert.
Die Rolle der KI-Ethischkeit und Plattformverantwortung
Trotz der Reaktionen argumentieren globale Regulierungsbehörden und Interessenvertretungen, dass die reaktiven Maßnahmen von X ein größeres Governance-Problem bei generativen KI-Plattformen aufzeigen. Tausende sexualisierte KI-Bilder haben in den letzten Wochen auf X zirkuliert, was zu Forderungen von Gesetzgebern und Frauengruppen geführt hat, Grok aus den App-Stores zu entfernen.
Der Rückzug von X stellt einen entscheidenden Moment in der Entwicklung der Governance von KI-Plattformen dar. Generative Medienwerkzeuge stehen zunehmend im Konflikt mit aufkommenden rechtlichen Rahmenbedingungen, was Technologieunternehmen zwingt, durchsetzbare Sicherheitsmaßnahmen gegen Missbrauch zu implementieren.
Durch die Einführung von Geoblocking und Einschränkungen beim Tool-Zugang hat X einen Schritt zur Wiederherstellung des Vertrauens unternommen. Experten warnen jedoch, dass die Durchsetzung strenger Richtlinien und fortlaufende Transparenz darüber entscheiden werden, ob solche Maßnahmen Bestand haben.
