Pharmaindustrie schreitet bei KI voran, Governance hinkt hinterher
Der Einsatz von KI in der pharmazeutischen Entwicklung wird immer verbreiteter, doch die dazugehörigen Regeln befinden sich noch in der Erarbeitungsphase.
Berichte zeigen, dass 71 % der Unternehmen in verschiedenen Branchen mittlerweile generative KI nutzen, wobei die Lebenswissenschaften zu den schnellsten Anwendern gehören. Allerdings ergreifen nur 53 % der Unternehmen aktiv Maßnahmen zur Minderung von KI-Risiken.
Diese Diskrepanz führt zu Bedenken, da Pharmaunternehmen autonome Systeme in Forschung, Entwicklung und Produktion einsetzen und gleichzeitig ihre Governance-Rahmenwerke aufbauen.
Betriebliche Verwundbarkeiten
KI-Systeme bringen Risiken mit sich, die traditionelle pharmazeutische Qualitätsrahmen oft nicht erfassen. Modellverschiebungen treten häufig auf, wenn KI-Prognosen im Laufe der Zeit ungenau werden, weil die Trainingsdaten von den tatsächlichen Produktionsbedingungen abweichen. Für die Arzneimittelentdeckung kann dies bedeuten, dass Verbindungen, die auf veralteten Datensätzen als vielversprechend galten, ihre Relevanz verlieren. In der Produktion kann dies dazu führen, dass Qualitätskontrollalgorithmen Prozessanomalien nicht erkennen.
Ein weiteres Risiko entsteht durch Datenlecks zwischen Forschungsunternehmen und Produktionspartnern. Proprietäre Modelle, die auf Daten klinischer Studien trainiert wurden, können versehentlich Patienteninformationen oder geistiges Eigentum offenlegen, wenn sie über organisatorische Grenzen hinweg geteilt werden. Ohne strenge Provenienz-Kontrollen verlieren Pharmaunternehmen die Übersicht darüber, wie ihre Daten genutzt werden und ob die Modelle den Datenschutzbestimmungen entsprechen.
Zusätzlich können Vorurteile in den Modellen die Ergebnisse verfälschen. Regulierungsprüfungen haben Fälle identifiziert, in denen KI-gesteuerte Algorithmen systematisch bestimmte demografische Gruppen von klinischen Studien ausgeschlossen haben, was sowohl die regulatorische Compliance als auch die therapeutische Effektivität beeinträchtigt. Die Richtlinien zur Cybersicherheit in medizinischen Geräten verlangen, dass Hersteller nachweisen, dass ihre Systeme – einschließlich derjenigen mit KI oder maschinellem Lernen – während des gesamten Produktlebenszyklus widerstandsfähig, integer und wiederherstellbar gestaltet sind.
Compliance in Aktion
Regulatorische Rahmenbedingungen haben einen tiefgreifenden Einfluss darauf, wie Pharmaunternehmen die KI-Governance gestalten. Die Überarbeitung von ICH E6(R3) verschärft die Anforderungen für alle computergestützten Systeme, die in klinischen Studien eingesetzt werden, einschließlich KI. Änderungen an Daten müssen nachvollziehbar und dokumentiert sein. Diese Anforderungen gelten für jede KI-gestützte Studie, die zur regulatorischen Zulassung eingereicht wird.
Reflexionspapiere zur KI in der Arzneimittelentwicklung betonen, dass Antragsteller sicherstellen müssen, dass Algorithmen, Modelle, Datensätze und Datenverarbeitungspipelines transparent dokumentiert und prüfbar sind. Besonders in klinischen Studien sollten Architektur, Protokolle, Trainingsdaten und Verarbeitungs-Pipelines für die regulatorische Überprüfung bereitgestellt werden, unterstützt durch geeignete Erklärungs- und Governance-Maßnahmen.
Diese Anforderungen haben strukturelle Veränderungen innerhalb der Organisationen beschleunigt. Ein Bericht zeigt, dass 13 % der Unternehmen spezielle Rollen für KI-Governance oder Risikomanagement geschaffen haben, was die Notwendigkeit unterstreicht, regulatorisches Fachwissen mit technischen Fähigkeiten zu verbinden. KI-Zentren für Exzellenz entstehen als operative Hubs, in denen Datenwissenschaftler, regulatorische Experten und Qualitätssicherungsteams zusammenarbeiten, um Modelle zu validieren.
Zukunftsbereitschaft
Die nächste Welle betrieblicher Risiken ist klar erkennbar. Mit der zunehmenden Einbettung von agentischer KI in Arbeitsabläufe müssen Unternehmen robuste Governance-Strukturen mit klaren Verantwortlichkeiten, Leitplanken zur Vermeidung unbeabsichtigter Folgen und regelmäßigen Prüfungen zur Sicherstellung der Compliance etablieren. Diese autonomen Systeme können komplexe Arbeitsabläufe in Forschung und Produktion ohne menschliche Aufsicht ausführen. Diese Autonomie beschleunigt die Entdeckung und optimiert die Produktion, schafft jedoch auch neue Verwundbarkeiten.
Beobachtbare Systeme sind daher unerlässlich. Jede Entscheidung muss protokolliert, jede Datenquelle validiert und jede Aktion überprüfbar sein. Kontinuierliches Monitoring muss zum betrieblichen Standard werden. Pharmaunternehmen, die diese Fähigkeiten jetzt aufbauen, sind für das nächste Jahrzehnt gut gerüstet. Unternehmen, die dies aufschieben, riskieren teure Nachbesserungen, wenn die regulatorischen Kontrollen strenger werden.
Die Verantwortung der Führung bleibt der entscheidende Faktor. Die Sicherheit von KI ist kein Problem, das allein von Ingenieurteams gelöst werden kann. Es erfordert Führungskräfte, die verstehen, dass Vertrauen, Validierung und Transparenz die Grundlage für betriebliche Agilität sind. Der Schutz von Patienten, Daten und Innovation ist kein isoliertes Ziel mehr, sondern eine miteinander verbundene Priorität, die definiert, wie Pharmaunternehmen in der intelligenten Wirtschaft agieren.
