Änderungen des kalifornischen Transparenzgesetzes für KI könnten soziale Medien beeinflussen

Kaliforniens AI-Transparenzgesetz (CAITA) könnte geändert werden, um soziale Medienplattformen zu regulieren

Im vergangenen Jahr verabschiedete die kalifornische Generalversammlung das California AI Transparency Act (CAITA), das am 19. September 2024 von Gouverneur Gavin Newsom unterzeichnet wurde und am 1. Januar 2026 in Kraft tritt. Diese Regelung könnte sich jedoch ändern, da die Generalversammlung in diesem Jahr das AB 853 verabschiedete, eine Änderung von CAITA mit potenziell weitreichenden Auswirkungen.

Aktuelle Version von CAITA

Die derzeitige Version von CAITA ist im Wesentlichen ein Benachrichtigungsgesetz. Es verlangt von bestimmten Unternehmen, die Generative Künstliche Intelligenz (GenAI)-Ausgaben produzieren, „latente“ Offenlegungen in diesen Ausgaben einzufügen. Eine „latente“ Offenlegung wird im Gesetz als „vorhanden, aber nicht offensichtlich“ definiert. Betroffene Unternehmen müssen den Nutzern die Möglichkeit bieten, „offensichtliche“ Offenlegungen in ihren GenAI-Ausgaben einzufügen, wobei „offensichtlich“ als „leicht wahrnehmbar, verständlich oder erkennbar für eine natürliche Person“ definiert ist.

CAITA gilt derzeit für jede Person oder jedes Unternehmen, das ein GenAI-System erstellt, kodiert oder anderweitig produziert, das mehr als 1.000.000 monatliche Besucher oder Nutzer hat und innerhalb der geografischen Grenzen Kaliforniens öffentlich zugänglich ist. AB 853 würde diese Bestimmungen nicht ändern, sondern lediglich deren Inkrafttreten verlängern.

Die Änderung von CAITA

Die vorgeschlagene geänderte Version von CAITA würde großen Online-Plattformen vorschreiben, Provenienzdaten zu erfassen und zu speichern, ähnlich einem Nachweis über den Ursprung für Trainingsdaten, und diese Daten in Übereinstimmung mit allgemein anerkannten Branchenstandards bereitzustellen. Außerdem müssten Hersteller von Aufzeichnungsgeräten den Nutzern, soweit technisch machbar, die Möglichkeit bieten, bestimmte latente Offenlegungsinformationen in den Inhalten, die sie erfassen oder ändern, einzufügen.

Diese Anforderungen sind detaillierter und damit potenziell belastender als die Anforderungen des bestehenden Gesetzes. Wie die ursprüngliche CAITA würden die vorgeschlagenen Änderungen jedoch auch verlangen, dass betroffene Unternehmen den Nutzern AI-Detektionstools kostenlos zur Verfügung stellen.

Die potenziellen Auswirkungen der Anforderungen an die Provenienzdatenspeicherung

Im Gegensatz zur aktuellen Version von CAITA würde die vorgeschlagene Änderung großen Online-Plattformen vorschreiben, Provenienzdaten so zu speichern, dass sie von den Nutzern leicht eingesehen werden können. Diese Plattformen dürften solche Provenienzdaten auch nicht absichtlich entfernen. Die Aufbewahrung und Bereitstellung dieser Daten wird voraussichtlich mit Kosten verbunden sein, etwa für die Speicherung, Verwaltung und Sicherheit der Daten.

Regulierte Unternehmen, einschließlich Plattformen, müssen zudem sicherstellen, dass diese latenten Offenlegungen in AI-generierten Ausgaben so gespeichert werden, dass sie von einem AI-Detektionstool identifiziert werden können. Auch für diese Anforderung sind Kosten zu erwarten.

Auswirkungen von CAITA, unabhängig von Änderungen

Unabhängig davon, ob Gouverneur Newsom AB 853 in Kraft setzt, wird die größte Auswirkung von CAITA von den Strafen abhängen, die Unternehmen drohen, wenn sie Provenienzdaten entfernen oder nicht aufrechterhalten. Diese Strafen umfassen eine Haftung von 5.000 USD pro Verstoß und Anwaltskosten für den erfolgreichen Kläger.

Diese Anforderungen könnten dazu beitragen, Desinformation zu bekämpfen, könnten jedoch auch ein falsches Sicherheitsgefühl erzeugen, das es raffinierten Akteuren ermöglicht, das Vertrauen der Benutzer in diese Tools auszunutzen. Es bleibt auch unklar, ob diese Detektionstools in der Lage sein müssen, Inhalte zu identifizieren, die von jedem System generiert wurden, oder nur von dem Anbieter, der das spezifische Tool anbietet.

Implementierungszeitplan für AB 853