Neue MeitY-Regeln verschärfen die Aufsicht über KI, aber obszöne Deepfakes verfolgen weiterhin Werbetreibende
Nur wenige Tage, nachdem das Ministerium für Elektronik und Informationstechnologie (MeitY) umfassende Änderungen der Richtlinien für Informations-Technologie (Intermediary Guidelines and Digital Media Ethics Code) angekündigt hat, um schädliche synthetisch erzeugte Inhalte einzudämmen, sagen Branchenexperten, dass Regulierung allein die wachsende Flut von KI-generierter Obszönität im Internet nicht neutralisieren wird.
Obwohl die rechtlichen Rahmenbedingungen nun schärfer sind und Rückverfolgbarkeit, Kennzeichnung und schnelle Löschung von sexuell expliziten, nicht einvernehmlichen und grenzwertig anstößigen KI-Inhalten gefordert werden, zirkulieren solche Inhalte weiterhin auf sozialen Plattformen und schaffen eine „anhaltende Krise der Markensicherheit und Governance“ für Werbetreibende.
Überarbeitete Regeln und ihre Herausforderungen
Die neuen Regeln verlangen von Intermediären, KI-generierte Materialien klar zu kennzeichnen, rückverfolgbare Metadaten einzufügen und rechtswidrige Inhalte innerhalb von drei Stunden nach Meldung durch die Behörden zu entfernen, was eine bedeutende Verschärfung gegenüber dem vorherigen Zeitraum von 36 Stunden darstellt. Die Änderungen zielen ausdrücklich auf Deepfakes, nicht einvernehmliche sexuelle Bilder und synthetische Manipulationen ab und legen strenge Sorgfaltspflichten für Plattformen und KI-Dienstleister fest.
Dennoch bleibt die Durchsetzung die zentrale Herausforderung. Das Ministerium hat kürzlich Benachrichtigungen an Plattformen über den mutmaßlichen Missbrauch eines KI-Chatbots versandt, der es Nutzern ermöglichte, sexuell explizite oder aufreizende KI-Bilder von Frauen zu generieren und zu teilen, manchmal sogar von Minderjährigen, durch einfache Eingabeaufforderungen.
Grauzone der Inhalte
Die schwierigere Herausforderung liegt nicht in eindeutig illegalen Inhalten, sondern in der Grauzone von sexualisierten, provokativen oder nicht kindgerechten KI-Influencer-Inhalten, die möglicherweise geschmacklos oder ethisch fragwürdig sind, aber nicht klar die rechtlichen Kriterien für Obszönität erfüllen. Diese Problematik betrifft weniger das Strafrecht als vielmehr die Governance der Plattformen, Werbestandards und soziale Normen.
Die Unterscheidung ist für Marken entscheidend. Während kriminell rechtswidrige Inhalte regulatorische Prüfungen und Löschanordnungen nach sich ziehen, liegt die verbreitetere Herausforderung in algorithmisch verstärktem „Grenzmaterial“, das möglicherweise keine strafrechtlichen Bestimmungen verletzt, aber das Risiko eines Reputationsschadens birgt.
Risikofaktoren für Werbetreibende
Für Werbetreibende besteht die Bedrohung aus zwei Aspekten: der Nähe der Marke zu expliziten synthetischen Inhalten und dem Missbrauch des Abbilds von Markenbotschaftern durch Deepfakes. Influencer-Marketing, das zentral für digitale Markenstrategien ist, ist besonders gefährdet. Eine Studie hat ergeben, dass ein erheblicher Teil der KI-Deepfake-Tools nicht jugendfreies (NSFW) Material produziert, wobei viele Influencer weltweit berichten, dass ihr Abbild ohne Zustimmung manipuliert wurde.
Plattformen können sich nicht von der Verantwortung distanzieren, wenn ihre Algorithmen darauf ausgelegt sind, Engagement zu maximieren. Auch wenn Plattformen Unternehmen sind, erhalten sie keinen Freibrief, um von Inhalten zu profitieren, die gegen Richtlinien verstoßen. Wenn ihre Systeme absichtlich unangemessenes KI-Material fördern, um Nutzer zu fesseln, sind sie Teil des Problems.
Schlussfolgerung
Die neuen MeitY-Regeln versuchen, diese Lücken zu schließen, indem sie die Einbettung von Metadaten in KI-generierte Materialien und die Verpflichtung zur Nutzererklärung bei der Verwendung synthetischer Werkzeuge vorschreiben. Automatisierte Sicherheitsmaßnahmen gegen illegale KI-Inhalte sind nun eine ausdrückliche Compliance-Anforderung.
Die regulatorische Verschärfung signalisiert jedoch auch einen breiteren politischen Wandel. Durch die Verdichtung der Löschfristen auf drei Stunden und das ausdrückliche Verbot von KI-generierten sexuellen und nicht einvernehmlichen Bildern hat die Regierung gezeigt, dass synthetische Schäden mit der gleichen Dringlichkeit behandelt werden wie andere Formen von rechtswidrigen Inhalten. Ob diese neuen Regeln jedoch tatsächlich wirken, wird stark von der Umsetzung auf Plattformebene abhängen.
