Erklärung: Was müssen soziale Medienplattformen und andere tun, wenn die Regierung die Regeln für KI-Inhalte verschärft?
Die Zentralregierung hat heute Richtlinien veröffentlicht, die soziale Medienplattformen und andere dazu verpflichten, alle Inhalte, die durch künstliche Intelligenz (KI) erzeugt oder verändert wurden, klar zu kennzeichnen.
Welche Regeln haben sich geändert?
Das Ministerium für Elektronik und Informationstechnologie hat am Dienstag Änderungen an den Richtlinien für die Informationstechnologie (Intermediary Guidelines and Digital Media Ethics Code) 2021 vorgenommen.
Der Rahmen für Intermediäre in Indien wurde erstmals 2011 festgelegt und später durch die Änderungen von 2021 ersetzt, die die Sorgfaltspflichten für große soziale Medienintermediäre erweiterten und eine Regulierung für digitale Nachrichten und kuratierte audiovisuelle Inhalte einführten.
Die neuesten Richtlinien bauen auf diesen Regeln auf und bringen synthetisch erzeugte Informationen (SGI), einschließlich Deepfakes, in einen strengeren regulatorischen Rahmen.
Was hat sich geändert?
Nach den neuen Regeln müssen Intermediäre sicherstellen, dass KI-generierte oder -modifizierte Inhalte gekennzeichnet oder identifizierbar sind, entweder durch sichtbare Offenlegungen oder eingebettete Metadaten.
Die Regeln erlauben den Einsatz technischer Maßnahmen wie eingebettete Metadaten als Identifikatoren, um flexibles Einhalten der Vorschriften zu ermöglichen und gleichzeitig die Nachverfolgbarkeit zu gewährleisten.
Darüber hinaus sind diese Identifikatoren unwiderruflich, sobald sie angewendet wurden.
Plattformen müssen außerdem ihre Nutzer alle drei Monate über die Folgen des Missbrauchs von KI informieren.
Die Regierung hat zudem den Einsatz automatisierter Werkzeuge zur Erkennung und Verhinderung der Verbreitung illegaler, sexuell ausbeuterischer oder irreführender KI-generierter Inhalte angeordnet.
Früher hatten Intermediäre 36 Stunden Zeit, um auf Löschanordnungen zu reagieren. Unter den strengeren Durchsetzungsmaßnahmen müssen Plattformen nun KI-generierte Inhalte innerhalb von drei Stunden nach Erhalt einer Anordnung von Gericht oder Regierung entfernen oder den Zugang dazu sperren.
Was sind Intermediäre?
Intermediäre sind Entitäten, die Daten im Auftrag von Endbenutzern speichern oder übertragen. Dazu gehören Telekommunikationsdienstanbieter, Online-Marktplätze, Suchmaschinen und soziale Medien.
Wie werden die Regeln durchgesetzt?
Die erste Phase der Durchsetzung konzentriert sich auf große soziale Medienintermediäre mit fünf Millionen oder mehr registrierten Benutzern in Indien. Dies bedeutet, dass die Regeln hauptsächlich ausländische Anbieter betreffen.
Warum jetzt?
Diese Maßnahmen folgen auf die jüngste Kontroverse um Grok, bei der der KI-Chatbot nicht einvernehmliche explizite Deepfakes generierte. Die Änderungen basieren auch auf den jüngsten Konsultationen der Regierung mit Branchenverbänden.
Die Regeln sollen sicherstellen, dass Plattformen Nutzer über synthetisch erzeugte Informationen (SGI) informieren und sogar die an der Erstellung solcher Inhalte Beteiligten identifizieren.
