Untersuchung von Musk’s X durch die EU wegen sexualisierter Bilder nach öffentlichem Aufschrei
Die Plattform X von Elon Musk sieht sich einer Untersuchung durch die Europäische Union gegenüber, um festzustellen, ob sie illegale Inhalte verbreitet. Dies erfolgt nach öffentlichem Druck aufgrund der Verbreitung manipulierter sexualisierter Bilder durch den KI-Chatbot Grok.
Hintergrund der Untersuchung
Die Europäische Kommission, die Exekutive der 27-Nationen-Gruppe, gab bekannt, dass sie untersuchen wird, ob die Social-Media-Plattform X die Verbraucher schützt, indem sie die Risiken im Zusammenhang mit den Funktionen von Grok ordnungsgemäß bewertet und mindert. Diese Ermittlung erfolgt zwei Wochen, nachdem die britische Medienregulierungsbehörde Ofcom eine eigene Untersuchung eingeleitet hat, weil Grok sexualisierte Deepfake-Bilder erzeugt hat. Darüber hinaus haben mehrere Länder vorübergehend den Zugriff auf den Chatbot blockiert.
Gesetzliche Rahmenbedingungen und Reaktionen
Die Kommission erklärte, dass die KI-generierten Bilder von entblößten Frauen und Kindern, die auf X geteilt wurden, rechtswidrig und empörend seien. Die EU-Technikchefin erklärte, dass nicht einvernehmliche sexuelle Deepfakes von Frauen und Kindern eine gewalttätige und inakzeptable Form der Herabwürdigung seien.
X verwies auf eine Erklärung vom 14. Januar, in der es hieß, dass der Eigentümer xAI die Bildbearbeitung für Grok-Nutzer eingeschränkt und basierend auf dem Standort Nutzer blockiert hat, die Bilder von Personen in aufreizender Kleidung in „Rechtsordnungen, in denen es illegal ist“, erstellen. Die betroffenen Länder wurden nicht benannt.
Globale Besorgnis und rechtliche Risiken
Die Untersuchung der Kommission erfolgt im Rahmen des EU-Digitaldienstegesetzes, das große Technologieunternehmen dazu verpflichtet, mehr gegen illegale und schädliche Online-Inhalte zu unternehmen. Unternehmen riskieren Geldstrafen von bis zu 6 % ihres globalen Jahresumsatzes bei Verstößen gegen das DSA.
Obwohl die Änderungen, die von xAI vorgenommen wurden, begrüßt wurden, lösen sie nicht alle Probleme und systemischen Risiken. Ein leitender Beamter der Kommission äußerte, dass X bei der Einführung der Grok-Funktionen in Europa keine ad-hoc-Bewertung durchgeführt habe.
Politische Implikationen
Die Untersuchung könnte die Verwaltung der Vereinigten Staaten irritieren, da eine EU-Kontrolle über große Technologieunternehmen Kritik ausgelöst hat und sogar die Bedrohung von US-Zöllen zur Folge hatte. Ein Mitglied des Europäischen Parlaments stellte fest, dass der Fall breitere Schwächen in der Regulierung und Durchsetzung von KI-Technologien aufdeckt.
Die EU-Regulierungsbehörden haben auch eine im Dezember 2023 eingeleitete Untersuchung über X ausgeweitet, um festzustellen, ob das Unternehmen alle systemischen Risiken im Zusammenhang mit seinen sogenannten Empfehlungssystemen ordnungsgemäß bewertet und gemindert hat. X, das im Dezember mit einer Geldstrafe von 150 Millionen Euro wegen Verstoßes gegen seine Transparenzpflichten nach dem DSA belegt wurde, könnten interimistische Maßnahmen drohen, falls keine bedeutenden Anpassungen an seinem Service vorgenommen werden.
