New Jersey verbietet KI-Therapie: Risiken und Regelungen

Verbot von KI in der Therapie: Neue Gesetzgebung in New Jersey

Am 17. Juni 2025 wurde ein neuer Gesetzentwurf vorgestellt, der Unternehmen verbietet, künstliche Intelligenz (KI) als lizenzierte Fachkräfte im Bereich der psychischen Gesundheit einzusetzen.

Einführung des Gesetzentwurfs

Der Gesetzentwurf wurde einstimmig vom Versammlungsausschuss für Wissenschaft, Innovation und Technologie vorangetrieben. Er würde die Praxis unter dem Gesetz über Verbraucherbetrug des Bundesstaates für rechtswidrig erklären. Verstöße würden mit Geldstrafen von bis zu 10.000 USD für das erste Vergehen und bis zu 20.000 USD für jedes weitere Vergehen bestraft.

Hintergrund und Notwendigkeit

Diese Gesetzgebung kommt inmitten eines Anstiegs von Menschen, die KI-Chatbots für psychische Gesundheitsberatung und -behandlung in Anspruch nehmen, die als kostengünstige und versicherungsfreie Alternative gelten. Laut einem Bericht von Mental Health America lebt jeder dritte Mensch in den USA in einem Gebiet mit einem Mangel an Fachleuten für psychische Gesundheit, wobei einkommensschwache Gebiete und ethnische Minderheiten am stärksten betroffen sind.

Risiken der KI-Therapie

Die KI-Therapie birgt Risiken. Eine Studie der Stanford-Universität hat ergeben, dass, während KI-Therapie-Chatbots Vorteile wie eine erhöhte Zugänglichkeit zur Therapie bieten, diese Chatbots in ihrer Wirksamkeit im Vergleich zu menschlichen Therapeuten hinterherhinken und ein erhöhtes Stigma gegenüber Erkrankungen wie Alkoholismus und Schizophrenie im Vergleich zu Depressionen zeigen.

Regulierungsansatz der Gesetzgeber

Der Gesetzentwurf signalisiert auch, dass die Gesetzgeber des Bundesstaates weiterhin eigene Maßnahmen ergreifen werden, um die Schäden der KI zu begrenzen. Dies könnte durch den „großartigen schönen Gesetzentwurf“ von Präsident Donald Trump gefährdet werden, der ein 10-jähriges Moratorium für lokale und staatliche KI-Gesetze vorsieht.

Frühere gesetzliche Maßnahmen

Im April unterzeichnete Gouverneur Phil Murphy ein Gesetz, das die Erstellung und Verbreitung von KI-generierten Medien, bekannt als „Deepfakes“, zu einem Verbrechen macht, das mit bis zu fünf Jahren Gefängnis bestraft werden kann. Im letzten Jahr haben mindestens 20 Bundesstaaten Gesetze erlassen, um politische Deepfakes zu regulieren.

Diese Entwicklungen zeigen, dass der rechtliche Rahmen zur Regulierung von KI-Technologien in der psychischen Gesundheitsversorgung und darüber hinaus dringend notwendig ist.

More Insights

Stärkung der Sicherheit von LLM: Verantwortliche KI-Ausrichtung von phi-3

Dieser Artikel behandelt die Sicherheitsmaßnahmen von Phi-3 in Bezug auf verantwortungsbewusste KI-Alignment-Prinzipien. Durch die Anwendung von Red-Teaming und automatisierten Tests wurde die...

Kontrolle und Compliance in souveränen KI-Clouds für die intelligente Fertigung

Souveräne KI-Clouds bieten sowohl Kontrolle als auch Compliance und sind entscheidend für Hersteller, die sicherstellen möchten, dass ihre sensiblen Daten lokal bleiben. Diese Plattformen ermöglichen...

Ethische KI-Initiativen der schottischen Allianz stärken Vertrauen

Die Scottish AI Alliance hat ihren Impact Report 2024/2025 veröffentlicht, der ein transformierendes Jahr des Fortschritts bei der Förderung von vertrauenswürdiger, ethischer und inklusiver...

EU AI Act: Dringender Handlungsbedarf für Unternehmen

Die Ankündigung der EU-Kommission am vergangenen Freitag, dass es keine Verzögerung des EU-KI-Gesetzes geben wird, hat viele Menschen auf beiden Seiten dieses Themas dazu gebracht, sowohl epische...

Vertrauenswürdigkeit großer Sprachmodelle im Kontext des EU-KI-Gesetzes

Die Entwicklung großer Sprachmodelle (LLMs) wurde durch Fortschritte im Deep Learning, die Verfügbarkeit umfangreicher öffentlicher Datensätze und leistungsstarker Ressourcen vorangetrieben. Diese...

EU AI Gesetz: Dringender Aufruf zur Pause?

Die Europäische Kommission hat die Forderungen nach einer Verzögerung der Umsetzung des AI-Gesetzes zurückgewiesen und den ursprünglichen Zeitplan beibehalten. Trotz Druck von Unternehmen und Ländern...

Strengere Trump-Kontrollen: Chancen und Risiken für die AI-Branche

Die Trump-Administration bereitet neue Einschränkungen für den Export von KI-Chips nach Malaysia und Thailand vor, um zu verhindern, dass fortschrittliche Prozessoren über Drittländer nach China...

Die Bedeutung von KI- und Datengovernance in modernen Unternehmen

Die Governance von KI und Daten ist entscheidend für die Entwicklung zuverlässiger und ethischer KI-Lösungen in modernen Unternehmen. Diese Rahmenbedingungen sind miteinander verbunden und...

BRICS fordert die UN zu globalen KI-Regulierungen auf

Die BRICS-Staaten haben die Vereinten Nationen aufgefordert, eine Führungsrolle bei der Festlegung globaler Regeln für künstliche Intelligenz zu übernehmen. Diese Initiative unterstreicht die...