OpenAIs KI-Regulierung steht wegen Bedenken zur Kindersicherheit unter Beschuss
Die KI-Initiative von OpenAI hat Proteste ausgelöst und Bedenken hinsichtlich der Sicherheit von Kindern aufgeworfen.
Mehr als 20 Organisationen haben ein gemeinsames Schreiben an das Unternehmen vorbereitet und versendet. Ein Grund dafür sind potenzielle Lücken im rechtlichen Schutz für Familien, wenn Kinder geschädigt werden.
Konflikt um KI-Regulierung und Risiken für Nutzer
Im Mittelpunkt steht das Gesetz zur sicheren KI für Eltern und Kinder, das von OpenAI unterstützt wird. Es soll Regeln festlegen, wie Chatbots mit Minderjährigen interagieren, einschließlich Sicherheits- und Compliance-Standards.
Allerdings haben mehr als zwei Dutzend Organisationen, darunter auch Organisationen für Menschenrechte, in einem gemeinsamen Schreiben erklärt, dass das Dokument schwerwiegende Mängel aufweist. Sie fordern das Unternehmen auf, die Initiative vollständig zurückzuziehen und die Regulierung den Gesetzgebern zu überlassen.
Ein Mitbegründer einer der Organisationen betonte: „Die Hauptforderung hier ist, dass OpenAI sich aus dem Stimmzettel zurückzieht.“
Kritikpunkte
Kritiker weisen auf mehrere Kernprobleme hin:
- Eine zu enge Definition von Schaden, die letztlich nur physische Konsequenzen abdeckt.
- Beschränkungen für Familien, die Klagen einreichen, wenn Kinder geschädigt werden.
- Schwächung der Aufsichtsinstrumente für Regierungsbehörden.
- Schwierigkeiten, zukünftige Änderungen vorzunehmen, da dies eine Zweidrittelmehrheit der Gesetzgeber erfordern würde.
Ein separates Anliegen betrifft den Umgang mit Nutzerdaten. Es wird als Versuch gewertet, Familien daran zu hindern, die Chatprotokolle ihrer verstorbenen Kinder vor Gericht offenzulegen.
Gleichzeitig behält OpenAI trotz der angekündigten Pause in der Kampagne die Kontrolle über die Initiative. Ein Sprecher merkte an: „OpenAI hat die Macht, sie zurückzuziehen oder die Mittel für Unterschriften bereitzustellen. Alle rechtlichen Befugnisse liegen in ihren Händen.“
Wachsender Druck auf OpenAI
Die Situation entwickelt sich vor dem Hintergrund der Kritik an Tech-Unternehmen. Insbesondere hat die Familie eines Nutzers gegen ein Unternehmen geklagt, das einen Chatbot anbietet, von dem sie behaupten, er habe zu gefährlichem Verhalten beigetragen.
Es ist wichtig, dass die Unternehmen, die diese Technologien entwickeln, nicht die „Regeln schreiben, die sie regulieren, da dies keinen bedeutenden Schutz bietet.“
Parallel dazu hat OpenAI den Start der Funktion „Erwachsenenmodus“ in ChatGPT um mindestens einen Monat verschoben. Medienberichten zufolge hängt die Entscheidung mit technischen Schwierigkeiten und Risiken für Minderjährige zusammen. Während das Unternehmen die Einführung der Funktion nicht aufgibt, erkennt es die Notwendigkeit zusätzlicher Tests und Verfeinerungen an.
