Indien setzt 3-Stunden-Frist für soziale Medien zur Entfernung von KI-generierten Deepfake-Inhalten
Indien hat soziale Medienplattformen wie Facebook, Instagram und YouTube angewiesen, alle KI-generierten Inhalte klar zu kennzeichnen und sicherzustellen, dass solches synthetisches Material eingebettete Identifikatoren trägt, gemäß einer offiziellen Anordnung.
Strengere Durchsetzungsmaßnahmen
Als Teil einer strengeren Durchsetzung hat die Regierung eine Frist von drei Stunden festgelegt, innerhalb derer soziale Medienunternehmen KI-generierte oder Deepfake-Inhalte entfernen müssen, sobald diese von der Regierung oder auf Anordnung eines Gerichts gekennzeichnet werden.
Die Plattformen sind außerdem verpflichtet, die Entfernung oder Unterdrückung von KI-Labels oder zugehörigen Metadaten zu verhindern, sobald diese angewendet wurden.
Automatisierte Werkzeuge zur Verhinderung von Missbrauch
Um den Missbrauch einzudämmen, müssen die Unternehmen automatisierte Werkzeuge einsetzen, um die Verbreitung von illegalen, sexuell ausbeuterischen oder täuschenden KI-generierten Inhalten zu erkennen und zu verhindern.
Darüber hinaus müssen die Plattformen die Benutzer regelmäßig über die Konsequenzen von Verstößen gegen die Regeln im Zusammenhang mit dem Missbrauch von KI informieren. Solche Warnungen müssen mindestens einmal alle drei Monate ausgegeben werden.
Hintergrund und Entwicklung
Die neuesten Richtlinien kommen angesichts zunehmender Bedenken über die Verbreitung von KI-basierten Deepfakes im Internet und bauen auf den im vergangenen Monat vom Ministerium für Elektronik und Informationstechnologie vorgeschlagenen Entwurfsänderungen zu den Richtlinien für IT-Dienstleister auf.
Die Entwurfsvorschriften verlangen von den Benutzern die Offenlegung beim Posten von KI-generierten oder modifizierten Inhalten und verlangen von den Plattformen, Technologien zu übernehmen, um solche Erklärungen zu verifizieren.
Soziale Medienplattformen haben bereits Funktionen eingeführt, die es Benutzern ermöglichen, bestimmte Inhalte als generiert oder modifiziert mit Hilfe von künstlicher Intelligenz zu kennzeichnen. Der Schwerpunkt der Durchsetzungsmaßnahmen der Regierung liegt zunächst auf führenden sozialen Medienintermediären mit fünf Millionen oder mehr registrierten Benutzern in Indien.
Aktuelle Anforderungen der Plattformen
Plattformen wie YouTube verlangen von den Erstellern derzeit, dass sie „bedeutend veränderte“ oder synthetisch erzeugte Inhalte in bestimmten Fällen offenlegen, einschließlich Videos, die eine echte Person zeigen, die etwas sagt oder tut, was sie nicht gesagt oder getan hat, oder das Filmmaterial von realen Ereignissen oder Orten verändert.
Meta hat ebenfalls angeordnet, dass Benutzer von Facebook und Instagram Inhalte kennzeichnen, die digital erzeugte oder veränderte fotorealistische Audio- und visuelle Elemente enthalten, einschließlich KI-generierter Gespräche und Songs, die mit KI erstellt wurden.
