X versuchte, der brasilianischen Anfrage zu KI-Deepfakes auszuweichen. Die Regierung drängte zurück.
In den vergangenen Wochen befand sich Brasilien in einem regulatorischen Konflikt mit einem Unternehmen über dessen generatives KI-Tool, nachdem festgestellt wurde, dass die Plattform Millionen sexualisierter Bilder generiert hatte, darunter Tausende, die Minderjährige darstellten. Das Unternehmen gab in einem Schreiben an die brasilianischen Behörden zu, dass es zugrunde liegende Schwachstellen gab, versuchte jedoch, seine rechtliche Haftung zu begrenzen, indem es argumentierte, dass seine brasilianische Tochtergesellschaft, das Mutterunternehmen und das Unternehmen, das das KI-Tool betreibt, rechtlich getrennte Einheiten seien.
Die brasilianischen Regulierungsbehörden, Gesetzgeber und Rechtsexperten wiesen diese Argumentation entschieden zurück. Nach mehr als einem Monat des Hin und Hers und angesichts von Beweisen, dass das Problem weiterhin besteht, haben die brasilianischen Regulierungsbehörden ihre Forderungen eskaliert, einschließlich der Anforderung, dass das Unternehmen technische Sicherheitsvorkehrungen umsetzt, unterstützt durch die Drohung mit täglichen Geldstrafen.
Die brasilianische Regierung fordert Antworten
Berichten zufolge generierte das KI-Tool in nur 11 Tagen mehr als 3 Millionen sexualisierte Bilder. Im Januar forderten einige Politiker und Verbraucherschutzorganisationen die Einleitung einer Untersuchung und die Aussetzung des KI-Tools im Land. In einer als „vertraulich“ gekennzeichneten Mitteilung behauptete das Unternehmen, dass das Profil des KI-Tools wie jedes andere Benutzerkonto auf der Plattform behandelt werden sollte. Während es Schwächen in seinen Richtlinien zugab, versuchte es, die Verantwortung für das KI-Tool abzulehnen.
Die Digital Rights Secretariat wies darauf hin, dass das Unternehmen versuchte, seine Verantwortung abzulehnen und die Natur seines Dienstes falsch darzustellen. Die brasilianische Regierung gab am 20. Januar eine offizielle Antwort heraus, in der sie von mehreren öffentlichen Stellen forderte, Maßnahmen zu ergreifen, um die Generierung sexualisierter Bilder ohne Zustimmung zu verhindern und Verfahren zur Identifizierung und Entfernung solcher Inhalte zu schaffen.
Die Strategie des Unternehmens zur Abwehr der Verantwortung
In einem Folgebrief an die Regierung argumentierte das Unternehmen erneut, dass beide Einheiten unabhängig operieren und das Profil des KI-Tools von einer anderen Firma betrieben wird. Experten weisen jedoch darauf hin, dass die Argumentation des Unternehmens rechtlich schwach und fehlerhaft ist, da die Integration zwischen dem Unternehmen und dem KI-Tool offensichtlich ist.
Die langsame Reaktion des Unternehmens auf das Problem wurde ebenfalls kritisiert. Obwohl es behauptete, schnell Maßnahmen ergriffen zu haben, dauerte es fast drei Wochen, um auf das Problem zu reagieren. Während das Unternehmen angab, dass umfassende technische Lösungen implementiert wurden, gab es Berichte, dass das KI-Tool weiterhin sexualisierte Bilder generierte.
Regulierungsbehörden erhöhen den Druck
In einer gemeinsamen Erklärung haben die brasilianischen Behörden die Anforderungen an das Unternehmen verschärft. Das Unternehmen wurde aufgefordert, sofort Maßnahmen zu implementieren, um die Generierung und Verbreitung unangemessener sexualisierter Bilder zu verhindern. Wenn das Problem anhält, könnten härtere Maßnahmen ergriffen werden, einschließlich täglicher Geldstrafen.
Implikationen für die zukünftige Regulierung des Internets in Brasilien
Die zentrale Argumentation der brasilianischen Regierung besteht darin, dass das Unternehmen seine „Sorgfaltspflicht“ nachweisen und das Fehlen eines „systematischen Versagens“ belegen muss, das die weit verbreitete Verbreitung schädlicher Inhalte auf der Plattform ermöglicht hat. Diese Situation könnte auch Auswirkungen auf die Diskussionen über das derzeit im brasilianischen Parlament diskutierte Gesetz zur Regulierung von KI haben.
Fazit
Der Fall des KI-Tools verdeutlicht die Herausforderungen, mit denen Unternehmen bei der Verantwortung für generierte Inhalte konfrontiert sind. Darüber hinaus zeigt er die Notwendigkeit für eine klare Regulierung von KI-Technologien und die Verantwortung von Plattformen für die Inhalte, die sie hosten.
