AI Deepfakes und die Ethik des synthetischen Schadens in der Wissenschaft
Deepfakes werfen große ethische Fragen in der Wissenschaft auf. Da ein Großteil der Forschung auf Vertrauen in Daten und Beweise beruht, können selbst kleine Manipulationen schwerwiegende Folgen haben.
Wie AI Deepfakes erstellt werden
Deepfakes werden unter Verwendung generativer Modelle erstellt, neuronaler Netze, die auf riesigen Datensätzen von Gesichtern, Stimmen und Bewegungen trainiert sind. Diese Modelle kopieren nicht einfach bestehende Aufnahmen. Stattdessen lernen sie die Muster, die Menschen so aussehen, klingen und sich verhalten lassen, wie sie es tun, und nutzen dieses Wissen, um neue, überzeugende Inhalte zu synthetisieren.
Die meisten modernen Deepfake-Systeme basieren auf einem von zwei Hauptmodelltypen: generativen gegnerischen Netzwerken (GANs) und Diffusionsmodellen. GANs funktionieren als eine Art digitales Sparring. Auf der einen Seite gibt es einen Generator, der versucht, synthetische Inhalte zu erstellen, die als real durchgehen könnten. Auf der anderen Seite gibt es einen Diskriminator, der versucht, echt von falsch zu unterscheiden.
Frühere GAN-basierte Systeme waren oft nicht subtil. Sie hinterließen häufig erkennbare Zeichen wie merkwürdige Beleuchtung oder Augen, die nicht natürlich blinkten. Verbesserungen in den Trainingsdaten und der Architektur haben diese groben Kanten jedoch abgeschliffen. Heutige Ausgaben sind viel verfeinerter und in vielen Fällen schwerer von echtem Filmmaterial zu unterscheiden.
Synthetischer Schaden und öffentliches Vertrauen
Ein großes öffentliches Anliegen bei Deepfakes ist der Missbrauch, insbesondere nicht einvernehmliche intime Bilder, politische Desinformation und der Verlust des Vertrauens in audio-visuelle Beweise. Diese Probleme sind real und können schwerwiegende Auswirkungen haben. Studien zeigen, dass dieser synthetische Schaden überproportional Frauen betrifft, was zu einer Zunahme des öffentlichen Skeptizismus gegenüber legitimen Medien führt.
Darüber hinaus führen Deepfakes zu einer breiteren epistemischen Herausforderung: Sie destabilisieren die Glaubwürdigkeit aufgezeichneter Beweise. Wenn Menschen sich nicht mehr sicher sein können, was real ist, beginnt das Vertrauen in Journalismus, demokratische Institutionen und sogar wissenschaftliche Daten zu erodieren.
Wissenschaftliche Integrität und synthetische Daten
Eine der drängendsten Herausforderungen ist der potenzielle Missbrauch generativer KI zur Herstellung wissenschaftlicher Daten, medizinischer Bilder oder ganzer Datensätze, die authentisch erscheinen, aber gefälscht sind.
Die Risiken umfassen:
- Unwiederholbare Ergebnisse: Gefälschte Daten können andere beeinflussen, die versuchen, darauf aufzubauen, was zu verschwendeten Anstrengungen und irreführenden Schlussfolgerungen führt.
- Falsches Vertrauen in Ergebnisse: Diagramme, Zahlen und Tabellen mögen methodisch korrekt erscheinen, könnten aber vollständig synthetisch sein.
- Datenschutzverletzungen: Selbst wenn Datensätze „synthetisch“ sind, kann es möglich sein, sensible persönliche Details rückgängig zu rekonstruieren, wenn die generativen Modelle auf realen menschlichen Daten trainiert wurden.
Regulatorische und ethische Antworten
Derzeit gibt es nicht viele formale Regeln, die direkt regeln, wie synthetische Medien in wissenschaftlichen Arbeiten verwendet werden können oder nicht. Einige rechtliche Bemühungen konzentrieren sich auf böswillige Deepfakes, wie sie für Belästigung oder politische Desinformation verwendet werden, aber im Hinblick auf die Wissenschaft ist das Bild unklarer.
Journale, Geldgeber und Institutionen müssen hier aktiv werden. Beispielsweise könnten Verlage von Forschern verlangen, offenzulegen, wann generative Werkzeuge verwendet wurden, Screening für veränderte Bilder oder Zahlen einzuführen oder Zugang zu Quelldaten anzufordern, wenn etwas nicht stimmt.
Fazit
Die ethischen Risiken des synthetischen Schadens in der Wissenschaft sollten nicht ignoriert werden. Da Deepfake-Technologien fortschrittlicher und für jedermann zugänglicher werden, untergraben sie das, was die Wissenschaft benötigt: Vertrauen. Der Umgang mit diesen Technologien erfordert koordinierte Anstrengungen über Technologie, Recht, Wissenschaft und Zivilgesellschaft hinweg.
