Grok AI: Ist es legal, unbedeckte Bilder von Personen ohne deren Zustimmung zu erstellen oder zu veröffentlichen?
Die Flut von Bildern teilweise bekleideter Frauen – erstellt mit dem Grok AI-Tool – hat weitere Fragen zur Regulierung dieser Technologie aufgeworfen. Ist es legal, solche Bilder ohne die Zustimmung der Betroffenen zu produzieren? Sollten sie von der Plattform entfernt werden?
Rechtliche Rahmenbedingungen im Vereinigten Königreich
Im Vereinigten Königreich gibt es einige Unsicherheiten hinsichtlich dieser Fragen. Die Regulierung sozialer Medien ist ein neuartiges Gebiet, und die Kontrolle über den Einsatz künstlicher Intelligenz steht noch am Anfang. Es gibt Gesetze wie das Online Safety Act, aber die Regierung hat bisher keine zusätzlichen Maßnahmen wie ein Verbot von Entblößungs-Apps eingeführt.
Nach dem Sexual Offences Act in England und Wales ist es ein Straftatbestand, intime Bilder einer Person ohne deren Zustimmung zu teilen, einschließlich Bildern, die durch KI erstellt wurden. Der Gesetzestext definiert, was ein intimes Bild ist, einschließlich der Darstellung einer „sexuellen Handlung“ oder das Zeigen von freigelegten Genitalien, Gesäß oder Brüsten. Dies schließt auch Unterwäsche oder nasse oder transparente Kleidung ein, die diese Körperteile sichtbar macht. Ein einfacher Befehl wie „Bikini“ würde jedoch nicht unbedingt durch das Gesetz abgedeckt sein.
Das Online Safety Act sieht eine Straftat für das Posten von Nachrichten mit falschen Informationen vor, die darauf abzielen, beim Empfänger „nicht-triviale psychologische oder physische Schäden“ zu verursachen. Änderungen im Gesetz haben Auswirkungen gehabt; eine Person wurde beispielsweise zu fünf Jahren Haft verurteilt, weil sie online Deepfake-Pornografie von Frauen veröffentlicht hatte, die sie kannte.
Verantwortung der Technologieunternehmen
Unter dem Online Safety Act sind soziale Medien verpflichtet, Maßnahmen gegen den Missbrauch intimer Bilder zu ergreifen. Sie müssen das Risiko solcher Inhalte bewerten, Systeme implementieren, die die Wahrscheinlichkeit vermindern, dass solche Inhalte angezeigt werden, und diese schnell entfernen, sobald sie Kenntnis davon erlangen. Wenn die Kommunikationsaufsichtsbehörde des Vereinigten Königreichs, Ofcom, der Meinung ist, dass die Plattform den Anforderungen nicht nachgekommen ist, kann sie eine Geldbuße von bis zu 10 % des globalen Umsatzes verhängen.
Es könnte auch zu Sanktionen gegen Grok kommen, nachdem Berichte aufgetaucht sind, dass es zur Erstellung von Erwachsenenpornografie verwendet wurde. Ofcom sollte überprüfen, ob angemessene Altersüberprüfungsverfahren implementiert wurden, um sicherzustellen, dass Personen unter 18 Jahren nicht auf das Tool zugreifen können.
Rechtliche Situation von Nudifying-Apps und -Websites
Derzeit ist das Teilen nicht einvernehmlicher intimer Bilder illegal, oft als „Rachepornografie“ bezeichnet. Die Regierung hat gesetzgeberische Maßnahmen ergriffen, um die Erstellung solcher Bilder zu verbieten, jedoch ist diese Regelung noch nicht in Kraft, was die Durchsetzung gegen Personen, die solche Bilder erstellen, erschwert. Ein Regierungssprecher erklärte, dass man solches degradiertes und schädliches Verhalten nicht tolerieren werde.
Ein weiteres Problem ist die Frage, ob die britischen Behörden überhaupt die Zuständigkeit haben. Ein Vergehen muss eine „substantielle Verbindung mit dieser Gerichtsbarkeit“ haben, was die Verfolgung erschweren könnte, wenn der Täter im Ausland ansässig ist.
Kindesmissbrauch und Grok
Die Internet Watch Foundation hat berichtet, dass Nutzer eines Darkweb-Forums damit prahlen, Grok zur Erstellung von anstößigen Bildern von Kindern verwendet zu haben. Solche Bilder stellen gemäß dem britischen Recht Material dar, das sexuellen Missbrauch von Kindern darstellt. Es ist eine Straftat, ein anstößiges Foto oder eine Pseudo-Fotografie – wie ein KI-Bild – eines unter 18-Jährigen zu erstellen, zu verteilen oder zu besitzen.
Was tun, wenn ein Bild von mir auf der Plattform manipuliert wurde?
Die Bilder von Personen sind durch die DSGVO im Vereinigten Königreich geschützt. Personen haben das Recht, die Löschung manipulierten Bildmaterials zu beantragen, wenn es auf der Plattform geteilt wurde. Da das Foto einer Person als persönliche Daten gilt, muss die Plattform bei der Verarbeitung dieser Daten die gesetzlichen Bestimmungen einhalten, und nicht einvernehmliche Manipulationen verstoßen gegen die DSGVO.
Eine falsche Darstellung in einem Deepfake könnte auch Grundlage für eine Verleumdungsklage sein, was jedoch kostspielig wäre. Alternativ können Betroffene die Rachepornografie-Hotline kontaktieren, eine staatlich finanzierte Organisation, die dabei hilft, nicht einvernehmliche intime Bilder schnell aus dem Internet zu entfernen.
