Schamloser Einsatz von KI: X gesteht Fehler nach Grok-Kontroversen ein und sichert Einhaltung indischer Gesetze zu
Die Kontroversen um Grok AI haben die Social-Media-Plattform X dazu veranlasst, Mängel in ihren Inhaltsmoderationsstandards anzuerkennen. Regierungsquellen berichten, dass das Unternehmen der Regierung mitgeteilt hat, dass es sämtliche geltenden Gesetze und Vorschriften in Indien vollständig einhalten wird. Im Rahmen von Korrekturmaßnahmen hat X bereits 3.500 Inhalte blockiert und mehr als 600 Konten gelöscht. Darüber hinaus hat die Plattform den Behörden zugesichert, zukünftig keine obszönen Bilder mehr zuzulassen.
Hintergrund der Kontroversen
Das Problem wurde offenbar, nachdem Bedenken über die Verbreitung obszöner und sexuell expliziter Inhalte auf der Plattform geäußert wurden, darunter Materialien, die angeblich durch das KI-Tool Grok generiert oder verstärkt wurden.
Maßnahmen des Ministeriums
Das Ministerium für Elektronik und Informationstechnologie (MeitY) hatte in der vergangenen Woche eine Mitteilung an den Chief Compliance Officer von X gesendet und einen detaillierten Bericht über die ergriffenen Maßnahmen innerhalb von 72 Stunden angefordert. Der Bericht sollte Maßnahmen zur sofortigen Einhaltung oder zur Verhinderung der Veröffentlichung, Übertragung oder des Teilens von obszönen, nackten, unanständigen und sexuell expliziten Inhalten umfassen, die durch den Missbrauch von KI-gestützten Diensten wie Grok erzeugt werden.
In seinem Schreiben forderte MeitY die Plattform auf, Inhalte, die als „obszön, pornografisch, vulgär, unanständig, sexuell explizit oder pädophil“ gelten, strikt zu unterbinden. Das Versäumnis, solche Sorgfaltspflichten einzuhalten, könnte zum Verlust der Haftungsfreistellung gemäß Abschnitt 79 des IT-Gesetzes führen.
Öffentliche Kritik
Ein Mitglied des Rajya Sabha kritisierte die Social-Media-Plattform X dafür, dass sie die problematische und sexualisierte Bildgenerierung durch Grok nur für zahlende Nutzer einschränkt, anstatt sie vollständig zu stoppen. In einem Beitrag auf X äußerte sie, dass dieser Schritt effektiv die unbefugte missbräuchliche Verwendung von Bildern von Frauen und Kindern ermöglicht und deren Sicherheit gefährdet. Die Plattform scheine dieses verwerfliche Verhalten unter dem Deckmantel von Kreativität und Innovation zu monetarisieren, was als „beschämender Einsatz von KI“ bezeichnet wurde.
Internationale Reaktionen
Indonesien ist das erste Land, das den Zugang zu Grok, dem KI-Chatbot, vollständig suspendiert hat, angesichts wachsender globaler Bedenken über den Missbrauch von KI zur Erstellung sexualisierter Bilder ohne Zustimmung.
