Illinois verabschiedet erstes Gesetz zur Regulierung von KI-Therapiediensten
Am 2. Dezember 2025 trat in Illinois das Gesetz über Wellness und Aufsicht für psychologische Ressourcen (HB 1806) in Kraft, das den Bundesstaat zum ersten macht, der die Verwendung von Künstlicher Intelligenz (KI) bei der Bereitstellung von Therapie- und Psychotherapiediensten gesetzlich regelt. Das Gesetz legt Rahmenbedingungen für den Einsatz von KI zur Unterstützung therapeutischer Entscheidungen fest, erlaubt jedoch die Nutzung von KI für administrative und ergänzende Aufgaben unter bestimmten Zustimmungsvoraussetzungen.
Anwendungsbereich des Gesetzes
Gemäß dem Gesetz dürfen nur lizenzierte Fachkräfte Therapie oder Psychotherapie in Illinois anbieten, bewerben oder bereitstellen. „Lizenzierte Fachkräfte“ umfassen Personen, die in Illinois zur Erbringung von Therapie oder Psychotherapie lizenziert sind, wie klinische Psychologen, Sozialarbeiter, professionelle Berater sowie Ehe- und Familientherapeuten. Das Gesetz unterscheidet drei Kategorien von KI-unterstützten Diensten: (i) administrative Unterstützung; (ii) ergänzende Unterstützung; und (iii) unabhängige therapeutische Entscheidungsfindung oder therapeutische Kommunikation.
Erlaubte Verwendungen von KI in Therapiediensten
Das Gesetz gestattet lizenzierten Fachkräften in Illinois, KI für administrative Unterstützungsaufgaben einzusetzen, beispielsweise zur Terminplanung, Abwicklung von Versicherungs- und Rechnungsanfragen sowie zur Erstellung allgemeiner Kommunikation im Zusammenhang mit der Therapie, die keinen therapeutischen Rat beinhaltet. Darüber hinaus dürfen diese Fachkräfte KI zur ergänzenden Unterstützung verwenden, etwa zur Pflege von Klientendaten, einschließlich Therapienotizen, zur Analyse anonymisierter Daten zum Fortschritt von Klienten und zur Identifizierung von Überweisungen. Wird eine Sitzung aufgezeichnet oder transkribiert, ist die schriftliche Zustimmung der Klienten einzuholen, um KI zur ergänzenden Unterstützung zu nutzen. Der Klient oder dessen rechtlich autorisierter Vertreter muss schriftlich informiert werden, dass KI verwendet wird und zu welchem spezifischen Zweck das KI-Tool oder -System eingesetzt wird. Die schriftliche Zustimmung muss eindeutig und unmissverständlich sein.
Verbotene Verwendungen von KI in Therapiediensten
Besonders wichtig ist das Verbot des Gesetzes, KI zur folgenden Verwendung einzusetzen: (i) zur eigenständigen therapeutischen Entscheidungsfindung; (ii) zur direkten therapeutischen Kommunikation mit Klienten; (iii) zur Erstellung therapeutischer Empfehlungen oder Behandlungspläne ohne Überprüfung und Genehmigung durch die lizenzierte Fachkraft; oder (iv) zur Erkennung von Emotionen oder psychischen Zuständen. Therapeutische Kommunikation umfasst jede verbale, nonverbale oder schriftliche Interaktion in einem klinischen oder professionellen Umfeld, die darauf abzielt, die psychische, emotionale oder Verhaltensgesundheit einer Person zu diagnostizieren, zu behandeln oder anzusprechen. Verstöße gegen das Gesetz können zivilrechtlich mit Geldstrafen von bis zu 10.000 USD pro Verstoß geahndet werden und zu Untersuchungen durch die zuständige Behörde führen.
Implikationen für agentische KI
Agentische KI, also autonome Systeme, die vielfältige Aufgaben ausführen können, einschließlich der Bereitstellung von Laborergebnissen und der Erkennung von Emotionen sowie psychischen Gesundheitsproblemen, wird bundesweit in Therapiepraxen eingesetzt. Das Verbot, dass KI unabhängige therapeutische Entscheidungen trifft, stellt eine Herausforderung für Anbieter und Unternehmen dar, die agentische KI in Illinois einsetzen möchten. Sie müssen sicherstellen, dass die Fähigkeiten ihrer agentischen KI nicht als unabhängige therapeutische Entscheidungsfindung oder therapeutische Kommunikation gelten. Zudem ist die ausdrückliche schriftliche Zustimmung der Klienten notwendig, wenn diese Tools für ergänzende Unterstützung genutzt werden. Obwohl agentische KI großes Potenzial besitzt, muss ihr Einsatz strikt innerhalb der neuen gesetzlichen Regelungen in Illinois erfolgen.
