China schlägt die „strengsten Regeln der Welt“ zur Regulierung von KI vor, die Selbstmord und Gewalt fördert
China hat neue Vorschläge zur Regulierung von Künstlicher Intelligenz (KI) vorgestellt, die darauf abzielen, Inhalte zu verhindern, die Selbstmord und Gewalt fördern. Diese Initiative erfolgt vor dem Hintergrund wachsender Frustration der Nutzer über Sicherheitsmaßnahmen und Inhaltsbeschränkungen, die von verschiedenen KI-Plattformen eingeführt wurden, insbesondere nach mehreren tragischen Vorfällen, darunter der Selbstmord eines Teenagers.
Mehrere KI-Chatbot-Plattformen waren in ähnliche herzzerreißende Fälle verwickelt. Die Bedingungen möglicher Einigungen sind noch nicht bekannt, doch Gerichtsakten zeigen, dass Unternehmen ähnliche rechtliche Ansprüche von Eltern in verschiedenen Bundesstaaten gelöst haben, die sich auf Schäden für Minderjährige beziehen, die aus Interaktionen mit Chatbots resultierten.
Vorgeschlagene Regelungen
Die geplanten Regelungen stellen die ersten weltweiten Versuche dar, KI mit menschlichen oder anthropomorphen Eigenschaften zu regulieren, um KI-unterstützten Selbstmord, Selbstverletzung und Gewalt entgegenzuwirken. Die von der Cyberspace Administration Chinas veröffentlichten Vorschriften gelten für alle KI-Dienste in China, die Texte, Bilder, Audio, Video oder andere Mittel verwenden, um natürliche menschliche Interaktion zu imitieren.
Chatbots wären strikt davon ausgeschlossen, Inhalte zu erstellen, die Selbstmord, Selbstverletzung, gewalttätige Handlungen, Obszönität, kriminelle Aktivitäten oder jegliche Form der psychologischen Manipulation fördern. Im Falle von Selbstmordankündigungen in einem Gespräch ist sofort menschliches Eingreifen erforderlich. Minderjährige und ältere Nutzer, die sich für Chatbot-Dienste registrieren, müssen Kontaktinformationen von Erziehungsberechtigten bereitstellen, die umgehend benachrichtigt werden, sollte Selbstmord oder Selbstverletzung thematisiert werden.
Emotionale Fallen und Nutzungseinschränkungen
Die Regeln zielen auch darauf ab, „emotionale Fallen“ zu verhindern und Nutzer davor zu bewahren, zu „unvernünftigen Entscheidungen“ verleitet zu werden. Im Gegensatz zu anderen Plattformen, die schädliche Interaktionen zuließen, würden in China aufdringliche Pop-up-Warnungen ausgelöst, wenn die Nutzung zwei Stunden überschreitet.
Verstöße gegen diese Vorschriften könnten dazu führen, dass App-Stores gezwungen sind, die Chatbots vollständig vom chinesischen Markt zu entfernen. Dies könnte insbesondere für große KI-Unternehmen nachteilig sein, die im chinesischen Markt Fuß fassen möchten.
Fazit
Chinas Initiative zur Regulierung von KI, die potenziell schädliche Inhalte fördert, könnte bedeutende Auswirkungen auf die Entwicklung und Nutzung von KI-Diensten haben. Die Maßnahmen zielen darauf ab, die Sicherheit der Nutzer zu gewährleisten und tragische Vorfälle zu verhindern, die durch emotionale Manipulation und schädliche Interaktionen verursacht werden können.
Wenn Sie oder jemand, den Sie kennen, dringend Hilfe im Bereich psychische Gesundheit benötigt, wenden Sie sich bitte an eine Hilfsstelle.
