ICO untersucht X wegen Vorwürfen über Grok AI und nicht einvernehmlicher sexueller Bilder
Die ICO hat eine formale Untersuchung gegen X eingeleitet, nachdem Vorwürfe aufkamen, dass das Grok AI-Tool nicht einvernehmliche sexuelle Bilder generiert hat. Zeitgleich durchsuchten französische Behörden die Büros von X in Paris aufgrund verwandter strafrechtlicher Bedenken.
Untersuchung durch die ICO
Die britische Datenschutzbehörde hat eine formelle Untersuchung gegen die Social-Media-Plattform X eingeleitet. Es wird untersucht, ob X und deren irische Tochtergesellschaft personenbezogene Daten rechtmäßig verarbeitet haben, nachdem Berichte auftauchten, dass Grok sexuelle Bilder unter Verwendung von Fotografien realer Personen, meist Frauen, ohne deren Zustimmung erstellt hat.
Die ICO bestätigte, dass sie X und deren KI-Abteilung am 7. Januar kontaktiert hat, um dringende Details zu den Sicherheitsvorkehrungen zu erfragen, die den Missbrauch verhindern sollen. Nach öffentlicher Kritik von Opfern, Online-Sicherheitsbefürwortern und Politikern erklärte das Unternehmen, dass es Maßnahmen ergriffen habe, um diese Praktiken einzuschränken.
Die ICO äußerte, dass die gemeldeten Vorfälle „ernsthafte Bedenken unter dem britischen Datenschutzrecht“ aufwerfen und ein Risiko für „signifikante potenzielle Schäden für die Öffentlichkeit“ darstellen. Besondere Bedenken bestehen hinsichtlich der rechtmäßigen, fairen und transparenten Verarbeitung personenbezogener Daten sowie der angemessenen Sicherheitsvorkehrungen im Design und Einsatz von Grok.
Risiken und Auswirkungen
Die ICO warnte, dass Versäumnisse Individuen, insbesondere Kindern, ernsthaft gefährden könnten. Der Leiter für regulatorische Risiken und Innovation der ICO äußerte, dass die Vorwürfe „tief besorgniserregende Fragen“ aufwerfen, wie persönliche Daten zur Erstellung intimer oder sexualisierter Bilder ohne Zustimmung verwendet werden könnten. Der Verlust der Kontrolle über persönliche Daten kann sofort und erheblich schädlich sein.
Die Untersuchung der ICO wird zusammen mit der britischen Kommunikationsbehörde Ofcom durchgeführt, die das Thema weiterhin als dringlich betrachtet. In einer aktualisierten Erklärung erkannte Ofcom jedoch an, dass ihm die Befugnisse fehlen, um direkt illegal erzeugte Bilder von Chatbots zu untersuchen, wodurch die ICO die Führung in Bezug auf Datenschutzüberlegungen übernommen hat. Bei Bestätigung von Verstößen kann die ICO Geldbußen von bis zu 17,5 Millionen Pfund oder 4 % des globalen Jahresumsatzes eines Unternehmens verhängen.
Französische Behörden durchsuchen X-Büros
Die Untersuchung im Vereinigten Königreich erfolgt unter dem zunehmenden Druck auf X in Europa. Französische Staatsanwälte bestätigten, dass Ermittler die Büros des Unternehmens in Paris im Rahmen einer im Januar eingeleiteten strafrechtlichen Untersuchung durchsuchten.
Die Staatsanwaltschaft in Paris erklärte, dass die Untersuchung eröffnet wurde, nachdem ein Gesetzgeber behauptet hatte, dass voreingenommene Algorithmen auf X automatisierte Datenverarbeitungssysteme verzerrt haben könnten. Suchaktionen wurden von der Cybercrime-Einheit durchgeführt, und sowohl der CEO als auch der ehemalige CEO von X wurden zu Anhörungen eingeladen.
Die französischen Behörden prüfen, ob X mehrfach gegen das Gesetz verstoßen hat, einschließlich der Komplizenschaft beim Besitz oder der organisierten Verbreitung von Material über sexuellen Missbrauch von Kindern und der Verletzung von Bildrechten durch sexuelle Deepfakes.
Die Staatsanwaltschaft kündigte auch an, dass sie X nicht mehr nutzen und stattdessen über andere Plattformen kommunizieren werde. Der CEO von X bezeichnete die Durchsuchung als „politischen Angriff“ und das Unternehmen äußerte sich enttäuscht, aber nicht überrascht, und bestritt jegliches Fehlverhalten. Gleichzeitig wurde erklärt, dass die Durchsuchung die Meinungsfreiheit gefährde.
Die Kontroversen haben auch die Aufmerksamkeit Brüssels auf sich gezogen. Ende Januar gab die Europäische Kommission bekannt, dass sie eine formelle Untersuchung gegen xAI eröffnet hat, da Bedenken über die Generierung der Bilder bestehen. Ein Sprecher der Kommission erklärte, dass sie im Kontakt mit den französischen Behörden nach der Durchsuchung in Paris stehe.
