Grok AI: Problem mit obszönem Inhalt – Fehler eingestanden, 600 Konten entfernt und Einhaltung zugesichert
Am 11. Januar gab die Microblogging-Plattform X zu, einen Fehler gemacht zu haben, nachdem das IT-Ministerium Bedenken bezüglich obszöner Inhalte im Zusammenhang mit dem AI-Chatbot Grok geäußert hatte. Infolge dieser Bedenken wurden etwa 3.500 Inhalte entfernt und über 600 Konten gelöscht.
Maßnahmen zur Einhaltung der Gesetze
X hat den Behörden zugesichert, dass das Unternehmen die indischen Gesetze einhalten wird. Diese Maßnahmen entsprechen den wachsenden Anforderungen verschiedener Regierungen weltweit, da die Regulierung die Überwachung von Inhalten, Datensicherheit sowie das Verbot nicht einvernehmlicher sexuell expliziter Bilder verschärft.
Öffentliche Sicherheit und rechtliche Anforderungen
X steht unter Druck, da Regierungen in Europa und Asien das Unternehmen vor den Konsequenzen warnen, die bei Nichteinhaltung von Online-Sicherheitsnormen drohen. Am 2. Januar forderte das IT-Ministerium X auf, sofort alle vulgären, obszönen und illegalen Inhalte, die von Grok erzeugt werden, zu entfernen. Andernfalls würden rechtliche Schritte folgen.
Verantwortung und Einhaltung
Das Ministerium betonte, dass die Einhaltung des IT-Gesetzes und der Vorschriften nicht optional ist. Es wurde klargestellt, dass die gesetzlichen Ausnahmen unter Abschnitt 79 des IT-Gesetzes an die strikte Einhaltung der Sorgfaltspflichten gebunden sind. X wurde aufgefordert, die Nutzungsbedingungen und Einschränkungen zur Nutzung von AI durchzusetzen und gegen regelwidrige Nutzer und Konten vorzugehen.
Fazit
Die Plattform hat nun ihren Fehler eingestanden und erklärt, dass sie die indischen Gesetze und Vorschriften einhalten wird. Die Entwicklungen rund um Grok und die damit verbundenen Herausforderungen zeigen die Schwierigkeiten für Unternehmen bei der Regulierung von Inhalten in der digitalen Welt.
