Chinas Entwurf von Vorschriften für menschenähnliche KI: Wichtige Erkenntnisse
Am 27. Dezember 2025 veröffentlichte die Cyberspace-Verwaltung Chinas (CAC) einen Entwurf von Vorschriften, die darauf abzielen, das aufstrebende Feld der menschenähnlichen interaktiven KI-Dienste zu regeln. Die vorgeschlagenen Regeln sollen ein Gleichgewicht zwischen der Förderung von Innovation und der Gewährleistung der sicheren und werteorientierten Nutzung dieser Dienste innerhalb Chinas finden.
Wahrung nationaler Werte und verbotene Inhalte
Die vorgeschlagenen Vorschriften verlangen, dass alle von KI generierten Inhalte den grundlegenden sozialistischen Werten Chinas entsprechen. Positive Anwendungen wie kulturelle Verbreitung und Begleitung älterer Menschen werden gefördert, während eine klare Liste von Verboten festgelegt ist. Anbieter sind verpflichtet, Inhalte zu vermeiden, die die nationale Sicherheit gefährden, Gerüchte verbreiten, illegale Aktivitäten wie Obszönität oder Glücksspiel fördern, andere verleumden oder das körperliche und geistige Wohl der Nutzer durch Manipulation oder Täuschung schädigen.
Umfassende Nutzer-Schutzmaßnahmen
Anbieter müssen Anzeichen extremer emotionaler Belastung oder Sucht bei Nutzern erkennen und mit Maßnahmen intervenieren, z. B. durch das Anbieten von Trost, das Vorschlagen professioneller Hilfe oder das Ermöglichen einer manuellen Übernahme des Gesprächs. Notfallkontakte oder Vormunde können ebenfalls benachrichtigt werden, wenn dies erforderlich ist.
Dienste müssen KI-generierte Inhalte klar kennzeichnen und Nutzer daran erinnern, dass sie mit einer KI und nicht mit einem Menschen interagieren. Die Vorschriften verlangen automatische Pausen nach zwei Stunden durchgehender Nutzung sowie eine einfache Möglichkeit für Nutzer, Gespräche zu beenden, insbesondere in emotionalen Begleitszenarien.
Schutzmaßnahmen für Minderjährige
Ein spezieller Modus für Minderjährige ist erforderlich, der automatisch aktiviert wird, wenn ein Minderjähriger erkannt wird. Dieser Modus umfasst Funktionen wie regelmäßige Erinnerungen an die Realität, Nutzungslimits und Kontrollfunktionen für Vormunde. Kritisch ist, dass Anbieter vor der Bereitstellung emotionaler Begleitdienste für Minderjährige die ausdrückliche Zustimmung eines Vormunds einholen müssen.
Schutzmaßnahmen für ältere Nutzer
Für ältere Nutzer betonen die Vorschriften die Sicherheit. Erkennt ein Dienst ein potenzielles Risiko für Leben, Gesundheit oder Eigentum eines älteren Nutzers, muss er den benannten Notfallkontakt benachrichtigen und Unterstützungsmöglichkeiten bereitstellen.
Verpflichtende Sicherheitsbewertungen und Berichterstattung
Anbieter müssen Sicherheitsbewertungen durchführen und Berichte an die Internetinformationsabteilungen auf Provinzebene unter verschiedenen Umständen einreichen. Diese Auslöser umfassen die Einführung eines neuen menschenähnlichen interaktiven Dienstes, die Implementierung wesentlicher technologischer Änderungen oder das Erreichen signifikanter Nutzermeilensteine.
Gewährleistung hochwertiger Trainingsdaten
Die Vorschriften legen großen Wert auf die Qualität und Legalität der für das Training von KI-Modellen verwendeten Daten. Datensätze müssen mit den grundlegenden sozialistischen Werten übereinstimmen, rechtlich beschafft und nachverfolgbar sein. Anbieter sind verpflichtet, saubere, gekennzeichnete Daten zu verwenden, negative Proben im Training einzubeziehen, um schädliche Ausgaben zu verhindern, und ihre Datensätze routinemäßig zu prüfen, um die Einhaltung sicherzustellen.
