New Mexico schlägt wegweisendes Gesetz zur Rechenschaftspflicht von KI vor, um Deepfakes und synthetische Medien zu bekämpfen
In New Mexico haben der Attorney General und ein Staatsvertreter ein bahnbrechendes Gesetzesvorhaben vorgestellt, das darauf abzielt, die wachsenden Bedrohungen durch generative künstliche Intelligenz (GenAI) und synthetische Medien, einschließlich Deepfakes, zu regulieren.
Das Gesetz zur Rechenschaftspflicht von Künstlicher Intelligenz (AI2A)
Das AI2A zielt darauf ab, den ersten umfassenden Rahmen für die Überwachung von GenAI und synthetischen Inhalten im Bundesstaat zu schaffen. Der Gesetzesentwurf sieht vor, dass digitale Marker in KI-generierten Bildern, Audios und Videos eingebettet werden, um Transparenz zu gewährleisten, kostenlose Werkzeuge zur Überprüfung der Authentizität von Inhalten bereitzustellen und dem Attorney General die Durchsetzung von Strafen bei Verstößen zu ermöglichen.
„Diese Gesetzgebung befasst sich mit einer sich schnell entwickelnden Technologie, die enormes Potenzial birgt, aber auch reale Gefahren mit sich bringt, wenn sie missbraucht wird, um Menschen zu täuschen oder zu schädigen“, wurde erklärt. Die Notwendigkeit staatlicher Maßnahmen wird betont, da auf Bundesebene bisher keine entsprechenden Maßnahmen ergriffen wurden.
Wichtige Bestimmungen des AI2A
- Verpflichtende digitale Marker: Anbieter von GenAI-Diensten müssen nicht wahrnehmbare Marker in synthetische Inhalte einfügen, um deren Herkunft zu verfolgen.
- Werkzeuge zur Herkunftserkennung: Unternehmen müssen kostenlose Werkzeuge zur Erkennung von KI-generierten Inhalten und zur Rückverfolgbarkeit anbieten.
- Zivilrechtliche Durchsetzung: Der Attorney General kann Verstöße untersuchen und Strafen von bis zu 15.000 US-Dollar pro Verstoß verhängen.
- Verschärfte strafrechtliche Strafen: Der Einsatz von GenAI zur Begehung von Verbrechen würde eine zusätzliche Haftstrafe von einem Jahr nach sich ziehen.
- Zivilrechtliche Haftung: Personen, die wissentlich schädliche synthetische Inhalte verbreiten, könnten verklagt werden.
Unterstützung und Relevanz
Der Vorschlag hat Unterstützung von verschiedenen Gruppen erhalten, die auf die Risiken für Kinder und Familien hinweisen. Ähnliche Gesetzgebungen wurden in mehreren Bundesstaaten bereits verabschiedet, darunter Regelungen zur Kennzeichnung von KI-generierten politischen Inhalten und zum Schutz vor unautorisierten Nachahmungen von Stimmen und Erscheinungen.
In Gemeinschaften gibt es Bedenken hinsichtlich des Missbrauchs von Deepfakes, insbesondere bei Wahlen und dem Schutz der persönlichen Privatsphäre. Der AI2A könnte lokalen Behörden und Bürgern Werkzeuge an die Hand geben, um gegen betrügerische Inhalte vorzugehen.
Fazit
Das Gesetz stellt einen proaktiven Schritt dar, um die Bürger zu schützen und gleichzeitig eine verantwortungsvolle Entwicklung von KI-Technologien zu fördern.
