Moratorium auf staatliche KI-Gesetze: Auswirkungen auf das Gesundheitswesen

Der Gesetzesentwurf „One Big Beautiful Bill Act“ und seine vorgeschlagene Moratorium auf staatliche KI-Gesetzgebung: Was Gesundheitsorganisationen wissen sollten

Der „One Big Beautiful Bill Act“ (OBBBA) stellt einen umfassenden Vorschlag dar, der die Regulierung von künstlicher Intelligenz (KI) in den Vereinigten Staaten maßgeblich verändern könnte. Ende Mai hat das Repräsentantenhaus der Vereinigten Staaten mit 215 zu 214 Stimmen den OBBBA verabschiedet, der ein 10-jähriges Moratorium auf die Durchsetzung der meisten staatlichen und lokalen Gesetze, die KI-Systeme betreffen, vorsieht. Sollte dieser Gesetzesentwurf umgesetzt werden, würde die Durchsetzung bestehender staatlicher KI-Gesetze ausgesetzt und Vorrang vor aufkommenden KI-Gesetzen in den staatlichen Legislaturen haben.

Was OBBBA bewirken würde

Der Abschnitt 43201 des OBBBA verbietet die Durchsetzung von staatlichen oder lokalen Gesetzen oder Vorschriften, die „KI-Modelle, KI-Systeme oder automatisierte Entscheidungssysteme einschränken, regulieren oder anderweitig beschränken“. KI wird definiert als ein „maschinenbasiertes System, das, basierend auf einer Reihe menschlich definierten Zielsetzungen, Vorhersagen, Empfehlungen oder Entscheidungen trifft, die reale oder virtuelle Umgebungen beeinflussen“. Die Definition von „automatisierten Entscheidungssystemen“ ist ebenfalls weit gefasst und umfasst „jeden rechnergestützten Prozess, der aus maschinellem Lernen, statistischer Modellierung, Datenanalyse oder KI abgeleitet ist und eine vereinfachte Ausgabe (z.B. eine Punktzahl, Klassifikation oder Empfehlung) generiert, um menschliche Entscheidungen wesentlich zu beeinflussen oder zu ersetzen“.

Der OBBBA würde mehrere bereits verabschiedete und vorgeschlagene Einschränkungen für den Einsatz von KI im Gesundheitswesen außer Kraft setzen, darunter:

• California AB 3030, das (mit wenigen Ausnahmen) vorschreibt, dass bei der Verwendung von generativer KI zur Kommunikation klinischer Informationen an Patienten Haftungsausschlüsse erforderlich sind und die Patienten darüber informiert werden müssen, wie sie einen menschlichen Anbieter erreichen können;
• California SB 1120, das es Krankenversicherungen untersagt, KI zu verwenden, um Leistungen ohne ausreichende menschliche Aufsicht abzulehnen;
• Colorado Artificial Intelligence Act, der Entwickler und Betreiber von KI-Systemen, insbesondere von „hohem Risiko“, reguliert;
• Utah Artificial Intelligence Policy Act, der regulierte Berufe (einschließlich Gesundheitsdienstleister) verpflichtet, zu Beginn jeder Kommunikation deutlich offenzulegen, dass der Verbraucher mit generativer KI interagiert;
• Massachusetts Bill S.46, das, wie vorgeschlagen, von Gesundheitsdienstleistern verlangen würde, die Verwendung von KI bei Entscheidungen, die die Patientenversorgung betreffen, offen zu legen.

Wichtige Ausnahmen im OBBBA

Der OBBBA enthält jedoch Ausnahmen, die voraussichtlich eine Debatte über den tatsächlichen Umfang des Moratoriums entfachen werden. Nach dem OBBBA bleiben staatliche KI-Gesetze und -Vorschriften durchsetzbar (und nicht außer Kraft gesetzt), wenn sie unter eine der folgenden Ausnahmen fallen:

• Primärzweck- und -wirkungsausnahme. Das staatliche Gesetz oder die Vorschrift hat den „Primärzweck und die -wirkung“ im Hinblick auf die Einführung von KI oder automatisierten Entscheidungssystemen, um: (i) rechtliche Hindernisse zu beseitigen; (ii) die Einführung oder den Betrieb zu erleichtern; oder (iii) Verwaltungsverfahren zu konsolidieren;
• Keine Design-, Leistungs- und Datenhandhabungsimpositionsausnahme. Das staatliche Gesetz oder die Vorschrift legt keine wesentlichen Anforderungen an Design, Leistung, Datenhandhabung, Dokumentation, zivilrechtliche Haftung, Besteuerung, Gebühren oder ähnliche Anforderungen an KI oder automatisierte Entscheidungssysteme fest, es sei denn, diese Anforderungen werden durch Bundesrecht auferlegt oder gelten allgemein für andere Modelle und Systeme, die ähnliche Funktionen ausführen;
• Vernünftige und kostengestützte Gebührenausnahme. Das staatliche Gesetz oder die Vorschrift sieht lediglich Gebühren oder Anleihen vor, die „vernünftig und kostengestützt“ sind und gleichmäßig auf andere KI-Modelle, KI-Systeme und automatisierte Entscheidungssysteme, die vergleichbare Funktionen erfüllen, auferlegt werden.

Die letzten beiden Ausnahmen implizieren, dass das Moratorium nur diejenigen staatlichen Gesetze betreffen würde, die KI-Systeme anders behandeln als andere Systeme. Somit würden Gesetze von allgemeiner Anwendung auf staatlicher und Bundesebene weiterhin KI regulieren, einschließlich solcher, die Diskriminierung, Datenschutz und Verbraucherschutz betreffen. Dennoch würde das Moratorium unbestreitbar die regulatorische Landschaft für KI transformieren, da es an robusten Bundesvorschriften mangelt, um die Beschränkungen auf staatlicher Ebene zu ersetzen.

Warum es für Gesundheitsakteure wichtig ist

Das vorgeschlagene Moratorium ist Teil der breiteren Betonung der Trump-Administration auf Innovation über Regulierung im Bereich der KI. Befürworter argumentieren, dass ein einheitlicher bundesstaatlicher Standard die Compliance-Belastungen für KI-Entwickler verringern würde, indem die Notwendigkeit entfällt, KI-Regeln in 50 Staaten zu verfolgen und umzusetzen. Dies würde wiederum Innovationen fördern und die nationale Wettbewerbsfähigkeit schützen, da die USA versuchen, mit der Europäischen Union und China im Bereich der KI-Entwicklung Schritt zu halten.

Für Gesundheitsdienstleister sind die Handelsabkommen jedoch komplex. Die Regulierung auf staatlicher Ebene hat ihre Vorteile. Patienten könnten misstrauisch gegenüber KI-gestützter Versorgung werden, wenn Transparenz und Aufsicht verringert erscheinen, insbesondere in sensiblen Bereichen wie Diagnosen, Pflege-Triage oder Verhaltenstherapie. Darüber hinaus reagieren Staaten oft frühzeitig auf aufkommende Risiken. Ein Moratorium könnte es den Regulierungsbehörden erschweren, sich mit sich entwickelnden klinischen Bedenken im Zusammenhang mit KI-Tools zu befassen, insbesondere angesichts des Mangels an umfassenden bundesstaatlichen Leitlinien in diesem Bereich.

Rechtliche und verfahrensrechtliche Herausforderungen

Das Moratorium steht auch vor erheblichen verfassungsrechtlichen und verfahrensrechtlichen Hürden. Rechtswissenschaftler und 40 bipartisane Staatsanwälte haben Bedenken geäußert, dass der OBBBA möglicherweise in die staatlichen Polizeibefugnisse in Bezug auf Gesundheit und Sicherheit eingreift, was möglicherweise Probleme im Rahmen des Zehnten Verfassungszusatzes aufwirft. Darüber hinaus wird erwartet, dass das Moratorium, sofern es verabschiedet wird, aufgrund der bipartisanen Opposition rechtlichen Herausforderungen vor Gericht ausgesetzt sein wird.

Was Gesundheitsorganisationen jetzt tun sollten

Gesundheitsorganisationen sollten starke Compliance-Praktiken aufrechterhalten und die Gesetze von allgemeiner Anwendung, wie HIPAA und staatliche Datenschutz- und Sicherheitsgesetze, im Auge behalten, da KI-Tools wahrscheinlich weiterhin diesen Gesetzen unterliegen werden, trotz der Unsicherheiten, die auftreten können, wenn der OBBBA verabschiedet wird. Selbst wenn das Moratorium nicht den US-Senat passiert, hat der Kongress deutlich signalisiert, dass er die Absicht hat, KI zu regulieren — sei es durch künftige Gesetzgebung oder durch von Agenturen wie dem US-Gesundheitsministerium oder der Food and Drug Administration geleitete Regelungen. Daher sollten Gesundheitsorganisationen eine klare Vision für die Richtlinien und Praktiken ihrer Organisationen in Bezug auf die KI-Compliance haben, einschließlich der folgenden Punkte:

• Compliance-Bereitschaft aufrechterhalten. Weiterhin die bestehenden staatlichen KI-Vorschriften überwachen und sich auf deren Inkrafttreten vorbereiten.
• Aktuelle KI-Einsätze prüfen. Bewerten, wie KI-Tools derzeit in klinischen, operativen und administrativen Funktionen eingesetzt werden, und weiterhin deren Übereinstimmung mit breiteren rechtlichen Rahmenbedingungen, einschließlich, aber nicht beschränkt auf HIPAA, FDCA, FTC Act, Title VI und Verbraucherschutzgesetze, überprüfen. Wie besprochen, werden KI-Tools weiterhin vielen Gesetzen von allgemeiner Anwendung unterliegen, selbst wenn das Moratorium verabschiedet wird.
• Strategische Planung betreiben. Je nach dem, ob das Moratorium vom US-Senat genehmigt wird und rechtlichen Prüfungen standhält, müssen Organisationen möglicherweise ihre Compliance-Programme neu kalibrieren.

Unabhängig davon, ob der OBBBA letztendlich verabschiedet wird oder nicht, markiert das vorgeschlagene Moratorium auf die bundesstaatliche Durchsetzung von KI-Vorschriften einen Wendepunkt in der sich entwickelnden Landschaft der KI-Regulierung im Gesundheitswesen. Anbieter würden gut beraten sein, proaktiv zu bleiben, gut informiert zu sein und sich auf sich entwickelnde rechtliche und regulatorische Entwicklungen vorzubereiten.