Künstliche Intelligenz: Regulierung und rechtliche Trends in den USA und international
Die Nutzung von Künstlicher Intelligenz (KI) und Maschinenlernen (ML) entwickelt sich rasant weiter und stellt neue Herausforderungen dar. Insbesondere im Gesundheitswesen kommen innovative Anwendungen von KI auf, die über die traditionellen Diagnosetools hinausgehen. Generative KI wird zunehmend in Organisationen eingesetzt, um beispielsweise Daten zu analysieren und Trends zu identifizieren.
Die Bedeutung von KI und ML im Gesundheitssektor kann nicht genug betont werden. Diese Technologien werden täglich von Herstellern genutzt, um neue Produkte zu entwickeln oder bestehende Produkte zu verbessern, die den Gesundheitsdienstleistern helfen und die Patientenversorgung verbessern. Gleichzeitig führen die rasanten Fortschritte in der KI/ML-Technologie zu erheblichen regulatorischen und rechtlichen Herausforderungen sowie zu politischen Veränderungen in den USA und anderen Ländern, einschließlich Europa und China.
Regulierungen von KI in den USA
In den USA wurde eine Exekutivverordnung der Biden-Regierung zur KI, die den Verbraucherschutz betonte, im Januar durch die Exekutivverordnung 14179 ersetzt. Diese neue Verordnung hat das Ziel, die Auswirkungen der Bundesgesetzgebung auf die Innovation im Bereich KI zu minimieren. Trotz Vorschlägen für Bundesgesetze zur Nutzung von KI im privaten Sektor gibt es bisher wenig Fortschritt. Viele Gesetzgeber zögern, Barrieren für diese Technologie zu schaffen.
Staaten wie Kalifornien, Colorado und Utah haben eigene Gesetze erlassen, die KI-Systeme regulieren. Besonders hervorzuheben ist das Colorado AI Act, das sich auf hochriskante KI-Systeme konzentriert und Entwickler verpflichtet, detaillierte Dokumentationen bereitzustellen und Auswirkungen zu bewerten. Dieses Gesetz enthält Ausnahmen für bestimmte von der FDA regulierte Produkte, die „substanziell gleichwertige“ Standards erfüllen.
KI-Regulierung in der Europäischen Union
In der Europäischen Union sind der EU AI Act und die Allgemeine Datenschutzverordnung (GDPR) die zentralen Regulierungsrahmen für KI. Der EU AI Act definiert KI-Systeme und legt eine hohe regulatorische Last auf hochriskante KI-Systeme, zu denen viele medizinische Geräte gehören. Der Act betont die Notwendigkeit von Risikomanagement, Datenverwaltung, technischer Dokumentation und Transparenz im gesamten Lebenszyklus des KI-Systems.
Für Hersteller medizinischer Geräte müssen diese Regeln bis zum 2. August 2026 eingehalten werden und beinhalten in vielen Fällen zusätzliche Verpflichtungen, die über die aktuellen Vorschriften für medizinische Geräte hinausgehen.
Chinas Ansatz zur KI-Regulierung
China ist ebenfalls aktiv in der KI-Regulierung und prüft Maßnahmen, die darauf abzielen, die Sicherheit und den Schutz von KI mit Innovations- und Führungszielen in Einklang zu bringen. Bisher lag der Schwerpunkt der chinesischen Regulierung auf der Regulierung von generativer KI, wobei zu erwarten ist, dass auch die breitere Entwicklung von KI zu einem späteren Zeitpunkt stärker reguliert wird.
Überlegungen zum geistigen Eigentum
Streitigkeiten über geistiges Eigentum sind ein weiteres aktives Gebiet im Bereich des KI-Rechts, wobei zahlreiche Fälle in den USA im Zusammenhang mit der Nutzung urheberrechtlich geschützter Werke zur Ausbildung von KI/ML-Modellen anhängig sind. Die Überlegungen zum geistigen Eigentum sind vielschichtig: Die unkontrollierte Nutzung von generativen KI-Tools kann das Risiko eines ungewollten Verlusts von geistigem Eigentum oder Geschäftsgeheimnissen mit sich bringen.
Datenschutz- und Cybersecurity-Risiken in der KI-Entwicklung
Zusätzlich beeinflussen Datenschutz und Cybersecurity sowohl die Nutzung als auch die Entwicklung von KI/ML. Die Nutzung persönlicher Daten zur Schulung von KI bleibt ein bedeutendes Anliegen für Regulierungsbehörden in den USA und im Ausland, insbesondere wenn es um Gesundheitsdaten geht. Unternehmen stehen vor der Herausforderung, die Privatsphäre und den Schutz von Daten zu gewährleisten, während sie KI-Tools nutzen, um Arbeitsprozesse zu optimieren.
Glücklicherweise können diese Risiken durch Informiertheit, Planung, die Implementierung von Richtlinien und Schulungen sowie durch Risikobewertungen von Anbietern gemindert werden.
