Neue Produkthaftungsrisiken für KI-Produkte
Am 8. Dezember 2024 trat die neue EU-Richtlinie über Produkthaftung (2024/2853) in Kraft, ein bedeutender Meilenstein für den Verbraucherschutz. Die neue Richtlinie zielt darauf ab, die Regeln zur Produkthaftung zu modernisieren und Hindernisse für Verbraucher zu beseitigen. Insbesondere verändert sie die aktuelle Risikolandschaft der Produkthaftung erheblich. Unternehmen, die KI in ihren Produkten verwenden, wie z. B. in medizinischen Anwendungen, sollten sich über die neuen Haftungsregeln informieren.
Strenge Haftung unabhängig von Verschulden
Die neue Produkthaftungsrichtlinie ist für alle Unternehmen relevant, die Produkte auf dem EU-Markt anbieten. Sie ersetzt die bestehende Richtlinie 85/374/EWG, die seit fast 40 Jahren in Kraft ist.
Die Richtlinie legt den Haftungsrahmen fest, wann Unternehmen für Schäden verantwortlich sind, die durch einen Mangel ihres Produkts verursacht wurden. Ein Produkt gilt als fehlerhaft, wenn es nicht das Sicherheitsniveau bietet, das eine Person erwarten darf. Wichtig ist, dass der Test weiterhin auf strenger Haftung basiert, was bedeutet, dass Verbraucher kein Verschulden oder Fehlverhalten des Unternehmens nachweisen müssen. Für die Produkthaftung reicht es aus, dass:
- ein Produkt fehlerhaft war,
- eine Person Schaden erlitten hat,
- ein ursächlicher Zusammenhang zwischen dem Mangel des Produkts und dem erlittenen Schaden besteht.
Software- und KI-integrierte Produkte fallen unter die neuen Regeln
Ob Software im Sinne des Produkthaftungsrechts als Produkt gilt, war bislang umstritten. Die neue EU-Produktrichtlinie schließt diese Lücke und erweitert den Anwendungsbereich der neuen Haftungsregeln. Software und KI-integrierte Produkte werden somit ausdrücklich als „Produkt“ im Sinne der neuen Richtlinie betrachtet. Dies gilt sowohl für Software, die in ein anderes Produkt eingebettet ist (z. B. in ein Radiotherapiegerät), als auch für Software, die mit einem anderen Produkt verbunden ist (z. B. digitale Gesundheitsüberwachungsdienste, die die Sensoren eines physischen Produkts zur Datensammlung nutzen).
Haftung für unzureichende Software-Updates oder schwache Cybersicherheit
Die neue Produkthaftungsrichtlinie stellt klar, dass Hersteller und Anbieter digitaler Produkte wie KI-Apps zukünftig auch für Schäden haftbar gemacht werden können, die durch fehlerhafte Software-Updates oder Schwächen der Cybersicherheit des Produkts verursacht werden. Die Produkthaftung erstreckt sich somit über den Zeitpunkt der Markteinführung hinaus.
Darüber hinaus konzentriert sich die Definition des Mangels in der neuen Produktsicherheitsrichtlinie noch stärker auf die Anforderungen des Produktsicherheitsrechts. Dazu gehört die Einhaltung der Sicherheitsanforderungen des KI-Gesetzes. Die Nichteinhaltung oder Maßnahmen von Regulierungsbehörden aufgrund der Produktsicherheit, wie z. B. ein Produktrückruf, könnten auf einen Produktmangel hinweisen.
Anpassung des Produkthaftungsregimes an das digitale Zeitalter
Die neue Produkthaftungsrichtlinie zielt darauf ab, die Regeln zur Produkthaftung zu modernisieren und an das digitale Zeitalter anzupassen. Weitere Änderungen bezüglich digitaler Produkte beinhalten, dass Kläger Schadensersatzansprüche auch für die Zerstörung oder Korruption von Daten geltend machen können. Zudem werden die aktuellen Selbstbehalte und Höchsthaftungsgrenzen aufgehoben.
Vermutung eines Produktmangels in komplexen Fällen
Ein weiteres Ziel der neuen Produkthaftungsrichtlinie ist es, Hindernisse für den Verbraucherschutz zu beseitigen. Die neue Richtlinie erleichtert es Klägern erheblich, Produkthaftungsansprüche wegen fehlerhafter Produkte geltend zu machen:
- Die neue Richtlinie erleichtert die Beweislast für den Kläger, indem sie eine Vermutung der Mangelhaftigkeit und einen ursächlichen Zusammenhang festlegt, wenn:
- (i) der Beweis aufgrund der technischen oder wissenschaftlichen Komplexität des Produkts „übermäßig schwierig“ ist,
- (ii) ein Produktmangel und/oder eine Kausalität zumindest „wahrscheinlich“ ist. Dies könnte besonders wichtig für KI-Produkte sein, da es für Kläger oft schwierig sein wird, einen Mangel aufgrund der Komplexität und Intransparenz der Funktionsweise des Produkts (Black Box) nachzuweisen. Es liegt dann am Unternehmen, die Vermutung zu widerlegen.
- Unter der neuen Produkthaftungsrichtlinie können Gerichte die Beklagten verpflichten, relevante Beweise, die sich in ihrem Besitz oder ihrer Verfügung befinden, offenzulegen, wenn die geschädigte Partei einen ausreichend plausiblen Schadensersatzanspruch geltend gemacht hat. Dies soll potenzielle Nachteile der geschädigten Partei hinsichtlich des Zugangs zu Informationen über die Herstellung und Funktionsweise des Produkts beseitigen. Dabei müssen die Gerichte Maßnahmen ergreifen, um die Geschäftsgeheimnisse des Beklagten zu schützen.
Neu: Rückzug der EU-Pläne für eine KI-Haftungsrichtlinie
Die Europäische Kommission hatte ursprünglich im September 2022 eine KI-Haftungsrichtlinie als Teil eines Pakets mit dem KI-Gesetz und der neuen Produkthaftungsrichtlinie vorgeschlagen. Während die letzteren beiden mittlerweile angenommen wurden, ist der Gesetzgebungsprozess für die KI-Haftungsrichtlinie ins Stocken geraten. Am 19. September 2024 veröffentlichte der Europäische Parlamentarische Forschungsdienst zuletzt eine Studie zum Entwurf der KI-Haftungsrichtlinie und schlug viele Änderungen vor.
Am 11. Februar 2025 fügte die EU-Kommission in ihrem endgültigen Arbeitsprogramm für 2025 die Richtlinie der Liste der Vorschläge hinzu, die sie zurückziehen möchte. Der Grund dafür ist, dass sie keine absehbare Einigung zu dem Vorschlag sieht. Die Kommission wird jedoch prüfen, ob ein anderer Vorschlag erarbeitet oder ein anderer Ansatz gewählt werden sollte.
Diese Entscheidung ist nachvollziehbar, da der Umfang der neuen Richtlinie begrenzt gewesen wäre. Es gab jedoch auch Unterschiede zwischen den Richtlinien: Unter der neuen Produkthaftungsrichtlinie sind Hersteller oder Anbieter fehlerhafter KI-Systeme, die körperlichen Schaden, Sachschaden oder Datenverlust bei Personen verursachen, ohne Verschulden haftbar, wenn ein Produktmangel vorliegt. Der Entwurf der KI-Haftungsrichtlinie hingegen hätte eine nicht vertragliche, schuldhafte Haftung im Falle einer Verletzung einer Sorgfaltspflicht für jede Art von Schaden (einschließlich reiner finanzieller Verluste und immaterieller Schäden) und zugunsten jeder Art von geschädigter Partei, einschließlich juristischer Personen, abgedeckt. Nach dem Rückzug der KI-Haftungsrichtlinie wird es umso wichtiger, dass die neue Produkthaftungsrichtlinie auch Software- und KI-Produkte abdeckt.
Fazit und Vorbereitung für 2025
Die neue EU-Produktrichtlinie führt ein für den Kläger günstigeres Produkthaftungsregime in der EU ein und verringert die rechtliche Sicherheit für Unternehmen. Dies kann erhebliche Auswirkungen auf Unternehmen für KI-Medizinprodukte haben, da es Verbrauchern erleichtert wird, in der EU Ansprüche wegen fehlerhafter Produkte geltend zu machen. Dies gilt insbesondere, wenn es aufgrund komplexer wissenschaftlicher und technologischer Konzepte, wie sie bei KI-Produkten wahrscheinlich sind, evidenzielle Schwierigkeiten gibt.
Die neue Produkthaftungsrichtlinie muss bis zum 9. Dezember 2026 von den Mitgliedstaaten umgesetzt werden. Die alte Produkthaftungsrichtlinie 85/237/EWG wird weiterhin für Produkte gelten, die bis dahin auf dem Markt sind. Unternehmen sollten die Zeit nutzen, um umfassende Risikoanalysen durchzuführen, auch im Hinblick auf den Schutz der Cybersicherheit. Es wird entscheidend sein, regulatorische Konformität einschließlich der Anforderungen des KI-Gesetzes zu etablieren und nachzuweisen. Darüber hinaus sollten Unternehmen ihr Produkthaftungsrisikoprofil, ihre Versicherungspolicen und bestehende Überwachungs- und Rückrufsysteme überprüfen.
