Flexible Governance für biologische Daten zur Unterstützung von KI-Systemen
In einem Policy Forum wird die Notwendigkeit einer erweiterten, jedoch maßgeschneiderten und flexiblen Governance für die biologischen Daten, die zur Entwicklung leistungsstarker künstlicher Intelligenz (KI)-Modelle genutzt werden, diskutiert.
Die rasant fortschreitenden KI-Systeme, die auf biologischen Daten trainiert werden, ermöglichen es Forschern, neue Moleküle zu entwerfen, die Proteinstruktur und -funktion vorherzusagen und umfangreiche sowie komplexe biologische Datensätze auf neuartige Erkenntnisse zu untersuchen, die unser Verständnis von Natur und menschlicher Gesundheit erheblich erweitern könnten. Diese Werkzeuge könnten jedoch auch für gefährliche Zwecke missbraucht werden, wie zum Beispiel zur Entwicklung schädlicher Krankheitserreger oder zur Generierung genetischer Sequenzen, die Sicherheitsprüfungen umgehen. Trotz dieser weithin anerkannten Risiken mangelt es an einer angemessenen Governance, und zunehmend leistungsstarke Modelle werden oft ohne Sicherheitsbewertung veröffentlicht.
Ansätze zur Governance biologischer Daten
Es wird erörtert, wie eine Governance für biologische Daten erreicht werden könnte, um potenzielle Risiken biologischer KI-Systeme zu mindern, ohne deren Forschungspotenzial zu behindern. Genau wie Forscher Einschränkungen beim Zugang zu persönlichen Informationen in genetischen Datensätzen akzeptieren, um die Privatsphäre zu schützen, könnten ähnliche Rahmenbedingungen nur eine enge Klasse besonders sensibler Pathogendaten einschränken, während die meisten wissenschaftlichen Daten offen verfügbar bleiben. Solche gezielten Kontrollen würden es böswilligen Akteuren erschweren, die seltenen und kostspieligen Datensätze zu erhalten, die erforderlich sind, um gefährliche Modelle zu trainieren, ohne legitime Forschung erheblich zu behindern, insbesondere wenn sie mit sicheren digitalen Forschungsumgebungen kombiniert werden.
Eingeschränkte und flexible Aufsicht
Es wird argumentiert, dass diese Aufsicht jedoch begrenzt, gezielt und flexibel bleiben sollte, damit sich die Governance-Rahmenwerke an die erforderlichen technologischen und wissenschaftlichen Fortschritte anpassen können. Darüber hinaus sollte die Forschungsgemeinschaft die Möglichkeit haben, Datenklassifikationen anzufechten, und die zuständigen Behörden sollten versprechen, schnelle und transparente Überprüfungsprozesse sicherzustellen, damit dringend benötigte Sicherheitsmaßnahmen nicht zu Hindernissen für legitime wissenschaftliche Prozesse werden. Die Formalisierung eines Systems zum Datenzugang würde es den Forschern ermöglichen, diese Kontrollen zu überprüfen und zu entwickeln und den Wissenschaftlern und Unternehmen Klarheit in einer derzeit unberechenbaren Umgebung zu bieten.
Der Beginn dieser Arbeiten würde es Wissenschaftlern und Regierungen auch ermöglichen, mehr über die Natur des KI-Risikos zu lernen und die Datenzugangskontrollen anhand konkreter Beweise zu überarbeiten, anstatt nur auf Vermutungen zu basieren.
