Aufsicht über KI-Systeme: Verantwortliche Behörden in Deutschland

Deutschlands KI-Implementierungsgesetz (KI-MIG): Wer sind die verantwortlichen Aufsichtsbehörden?

Am 10. Februar 2026 verabschiedete die Bundesregierung ihren offiziellen Regierungsentwurf für das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG), das die Aufsichtsstruktur, Durchsetzungsbefugnisse und das Sanktionsregime für KI-Systeme gemäß dem EU-KI-Gesetz festlegt.

Aufsichtsarchitektur

Deutschland hat sich für ein hybrides Aufsichtsmodell entschieden: Es wird keine neue Behörde eingerichtet, sondern eine starke zentrale Aufsichtsbehörde ergänzt durch sektorale Regulierungsbehörden.

BNetzA als zentrale Behörde: Die Bundesnetzagentur wird die standardmäßige Marktüberwachungsbehörde sein und fungiert als zentrale Anlaufstelle für das EU-KI-Büro sowie als zentrale Beschwerdestelle. Zudem wird die Bundesnetzagentur mindestens ein KI-Regulatorisches Sandbox mit Vorrangzugang für KMU, Start-ups und Forschungseinrichtungen betreiben.

Koordinations- und Kompetenzzentrum (KoKIVO): Innerhalb der Bundesnetzagentur wird KoKIVO eingerichtet, um KI-Expertise zentral zu bündeln und anderen zuständigen Behörden zur Verfügung zu stellen.

Sektorale Behörden: Vorhandene Regulierungsbehörden, die für harmonisierte EU-Produktgesetzgebung zuständig sind, behalten die Zuständigkeit für KI-Systeme, die mit diesen Produkten verbunden sind.

Medienanbieter: KI-Systeme, die von Medienanbietern für journalistische oder Werbezwecke verwendet werden, unterliegen der Aufsicht der zuständigen Behörden nach Landesrecht.

BaFin für Finanzdienstleistungen: Die Bundesanstalt für Finanzdienstleistungsaufsicht erhält ein breites Mandat zur Überwachung von KI-Systemen, die mit regulierten Finanzaktivitäten verbunden sind.

Unabhängige KI-Marktüberwachungskammer: Für bestimmte hochriskante KI-Systeme wird innerhalb der Bundesnetzagentur eine unabhängige Kammer geschaffen, die vollständig unabhängig operiert und jährlich an den Bundestag berichtet.

Ermittlungs- und Durchsetzungsbefugnisse

Internationale Unternehmen sollten sich der umfangreichen Durchsetzungsmöglichkeiten bewusst sein, die den Behörden unter dem Entwurf gewährt werden.

Die deutschen Marktüberwachungsbehörden dürfen Informationen untereinander austauschen, einschließlich personenbezogener Daten und Geschäftsgeheimnissen, wenn dies zur Erfüllung ihrer Aufgaben notwendig ist.

Behörden können ihre Ermittlungsbefugnisse auch remote ausüben und externe Experten zur Unterstützung einstellen.

Unangekündigte Inspektionen von Geschäftsräumen und Fahrzeugen können während der regulären Geschäftszeiten durchgeführt werden, um dringende Bedrohungen für die öffentliche Sicherheit zu verhindern.

Verwaltungsstrafen

Die EU-KI-Gesetzesstrafen gelten direkt, während deutsche Verwaltungsverfahren zur Anwendung kommen. Das KI-MIG wird zusätzliche nationale Strafen von bis zu 50.000 EUR für Verstöße einführen, die nicht durch das EU-Recht gedeckt sind.

Whistleblower-Schutz

Der Regierungsentwurf wird auch das Hinweisgeberschutzgesetz ändern, um Verstöße gegen das EU-KI-Gesetz abzudecken. Personen, die Verstöße melden, profitieren von den vollen Schutzmaßnahmen.

Innovationsförderung

Die Bundesnetzagentur wird ein KI-Service-Desk betreiben und Schulungsprogramme anbieten, um die Nutzung von KI-Systemen zu fördern. Ein regulatorisches Sandbox bietet Vorrangzugang für Forschungseinrichtungen und Universitäten.

Nächste Schritte

Die Annahme dieses Regierungsentwurfs markiert den offiziellen Beginn des Gesetzgebungsprozesses. Stakeholder sollten auf potenzielle Änderungen achten, insbesondere hinsichtlich der genauen Abgrenzung der Befugnisse zwischen den Behörden.

More Insights

Verantwortungsvolle KI: Ein unverzichtbares Gebot für Unternehmen

Unternehmen sind sich der Notwendigkeit von verantwortungsvollem KI-Betrieb bewusst, behandeln ihn jedoch oft als nachträglichen Gedanken oder separates Projekt. Verantwortliche KI ist eine vordere...

Neues KI-Governance-Modell gegen Schatten-KI

Künstliche Intelligenz (KI) verbreitet sich schnell in den Arbeitsplatz und verändert, wie alltägliche Aufgaben erledigt werden. Unternehmen müssen ihre Ansätze zur KI-Politik überdenken, um mit der...

EU plant Aufschub für AI-Gesetzgebung

Die EU plant, die Anforderungen für risikobehaftete KI-Systeme im KI-Gesetz bis Ende 2027 zu verschieben, um Unternehmen mehr Zeit zu geben, sich anzupassen. Kritiker befürchten, dass diese...

Weißes Haus lehnt GAIN AI-Gesetz ab: Nvidia im Fokus

Das Weiße Haus hat sich gegen den GAIN AI Act ausgesprochen, während es um die Exportbeschränkungen für Nvidia-AI-Chips nach China geht. Die Diskussion spiegelt die politischen Spannungen wider, die...

Ethische KI als Beschleuniger für Innovation

Unternehmen stehen heute unter Druck, mit künstlicher Intelligenz zu innovieren, oft jedoch ohne die notwendigen Sicherheitsvorkehrungen. Indem sie Datenschutz und Ethik in den Entwicklungsprozess...

KI im Recruiting: Verborgene Risiken für Arbeitgeber

Künstliche Intelligenz verändert die Art und Weise, wie Arbeitgeber Talente rekrutieren und bewerten. Während diese Tools Effizienz und Kosteneinsparungen versprechen, bringen sie auch erhebliche...

KI im australischen Kabinett: Chancen und Sicherheitsbedenken

Die australische Regierung könnte in Betracht ziehen, KI-Programme zur Erstellung sensibler Kabinettsanträge zu nutzen, trotz Bedenken hinsichtlich Sicherheitsrisiken und Datenverletzungen...