Neue kalifornische Gesetzgebung fordert Transparenz und Offenlegung im Bereich Künstliche Intelligenz
Am 19. September 2024 unterzeichnete Gouverneur Gavin Newsom das Gesetz über die Transparenz von Künstlicher Intelligenz in Kalifornien (California AI Transparency Act). Dieses Gesetz verlangt von Anbietern von generativen Künstlichen Intelligenzsystemen, folgende Maßnahmen zu ergreifen:
- Bereitstellung eines AI-Erkennungstools
- Angebot der Möglichkeit für AI-Nutzer, eine Manifest-Offenlegung einzufügen, dass der Inhalt von AI generiert wurde
- Einfügung einer latenten Offenlegung in AI-generierten Inhalten
- Abschluss eines Vertrags mit Lizenznehmern, der vorschreibt, dass das AI-System in der Lage bleibt, solche latenten Offenlegungen in den erstellten oder veränderten Inhalten einzufügen
Das Gesetz tritt am 1. Januar 2026 in Kraft und ist das umfassendste und spezifischste Gesetz zur Wasserzeichenpflicht in den USA.
Wichtige Definitionen
Die Bestimmungen des Gesetzes gelten für betroffene Anbieter, definiert als Personen, die ein generatives KI-System erstellen, codieren oder anderweitig produzieren, das über 1.000.000 monatliche Besucher oder Nutzer verfügt und öffentlich zugänglich ist. Ein generatives KI-System ist definiert als:
Eine Künstliche Intelligenz, die in der Lage ist, abgeleitete synthetische Inhalte zu erzeugen, einschließlich Text, Bilder, Video und Audio, die die Struktur und Merkmale der Trainingsdaten des Systems emulieren.
Das Gesetz definiert auch Künstliche Intelligenz als:
Ein konstruiertes oder maschinelles System, das in seinem Autonomiegrad variiert und das in der Lage ist, aus den Eingaben, die es erhält, abzuleiten, wie es Ausgaben generieren kann, die physische oder virtuelle Umgebungen beeinflussen.
Anforderungen für betroffene Anbieter
Die Transparenzanforderungen des Gesetzes verlangen von den betroffenen Anbietern, Offenlegungen über die Nutzung von generativen KI-Systemen vorzunehmen. Zunächst müssen betroffene Anbieter AI-Erkennungstools kostenlos für Nutzer bereitstellen, die es den Nutzern ermöglichen, zu beurteilen, ob Bild-, Video- oder Audiomaterial mit einem generativen KI-System erstellt oder verändert wurde. Diese Tools müssen zudem systematische Herkunftsdaten bereitstellen, um Nutzern zu ermöglichen, die Geräte, Systeme oder Dienste zu verifizieren, die zur Generierung solcher Inhalte verwendet wurden.
Zusätzlich müssen die Anbieter sowohl latente als auch manifest Offenlegungen in AI-generierten Inhalten bereitstellen. Manifest-Offenlegungen müssen klar, auffällig und dauerhaft sein und den Inhalt als AI-generiert identifizieren. Latente Offenlegungen, die in den Metadaten der AI-generierten Inhalte vorhanden sind, müssen spezifische Informationen wie den Namen des Anbieters, den Namen und die Versionsnummer des generativen KI-Systems, sowie das Erstellungsdatum und eine eindeutige Kennung enthalten.
Betroffene Anbieter, die ihre generativen KI-Systeme an Dritte lizenzieren, müssen sicherstellen, dass die Lizenznehmer diese Offenlegungsanforderungen einhalten. Bei Kenntnis darüber, dass Dritte nicht in der Lage sind, solche Offenlegungen einzufügen, sind die Anbieter verpflichtet, ihre Lizenzen innerhalb von 96 Stunden zu widerrufen.
Durchsetzung des Gesetzes
Das Gesetz wird von der Staatsanwaltschaft Kaliforniens, einem Stadtanwalt oder einem Bezirksanwalt durchgesetzt und sieht für Verstöße gegen das Gesetz zivilrechtliche Strafen von 5.000 USD pro Tag vor.
Schlussfolgerungen für Interessierte
Kalifornien reiht sich ein in die Liste von Bundesstaaten wie Colorado, Utah und Illinois, die Transparenz im Umgang mit Künstlicher Intelligenz fordern. Im Gegensatz zu diesen Staaten ist Kaliforniens Gesetz jedoch das erste, das umfassende und spezifische Anforderungen an Wasserzeichen schafft. Unternehmen, die generative KI-Systeme entwickeln, sollten die spezifischen technischen Anforderungen beachten, während sie Zeit und Ressourcen in die Entwicklung von Technologien investieren, die unter dieses Gesetz fallen. Lizenzgeber und Lizenznehmer von betroffenen KI-Systemen sollten in Erwägung ziehen, ihre Vereinbarungen zu aktualisieren, um diese vertraglichen Anforderungen zu adressieren.
