Indiens KI-Politik fehlt kinderspezifische Schutzmaßnahmen: Experten
„Sicherheit darf nicht nur bei der Produktgestaltung und Sicherheit durch Design enden. Sie muss auch durch Überwachung, schnelle Reaktion, Kinderschutz-Hotlines und Entschädigungen für Überlebende fortgesetzt werden, denn es wird etwas schiefgehen“, warnte eine Expertin und stellte fest, dass Indiens aktuelle KI-Governance-Strategie versagt, die praktischen Schäden, die Kindern zugefügt werden, zu adressieren.
Bei einem Gipfel zur KI-Wirkung in Indien wurde Forschung zur Kindersicherheit präsentiert, die auf Risiken hinweist, denen Kinder beim Einsatz von generativen und hochinteraktiven KI-Systemen ausgesetzt sind. Es wurde betont, dass Indien zwar digitale Vorschriften hat, aber ein spezifischer Rechtsrahmen fehlt, um KI-vermittelte Schäden an Kindern zu regeln.
Warum eine kinderspezifische KI-Governance erforderlich ist
Die Expertin stellte mehrere Gründe vor, warum eine kinderspezifische KI-Governance notwendig ist:
- Umfang des Schadens: Weltweit waren 2024 über 300 Millionen Kinder Opfer technikunterstützter Missbrauchsformen.
- Steigende Zahl KI-unterstützter Missbräuche: Im letzten Jahr gab es einen Anstieg von 1.325 % an KI-generierten sexuellen Missbrauchsmaterialien.
- Entwicklung der Ausbeutung: Künstliche Intelligenz wird zunehmend genutzt, um sowohl reales als auch synthetisches Material zu erstellen.
- Wahrnehmung von KI durch Kinder: Kinder erkennen sowohl die Vorteile als auch die Risiken von KI.
- Geschlechtsspezifische Sicherheitslücke: Junge Frauen empfinden Online-Räume als unsicherer als junge Männer.
- Verantwortung: Fast die Hälfte der befragten Kinder sieht die größte Verantwortung für die Online-Sicherheit bei Technologieunternehmen.
Empfohlene Maßnahmen
Um den Herausforderungen zu begegnen, wurde empfohlen, den Fokus von „Kindersicherheit“ auf „Kindeswohl“ zu verschieben. Diese Neuausrichtung soll die Risiken und Vorteile von KI für Kinder umfassender reflektieren.
Zu den vorgeschlagenen Maßnahmen gehören:
- Ein Beobachtungszentrum für Kindersicherheitslösungen, um Innovationen und Best Practices zu bündeln.
- Eine Arbeitsgruppe für das globale Südliche zur Förderung des Kindeswohls.
- Ein Innovationssandbox für Kindersicherheit, um Interventionen gegen digitale Schäden zu testen.
- Ein Jugendsicherheitsbeirat, um die Beteiligung von Kindern an der Politikgestaltung zu gewährleisten.
- Die Stärkung des rechtlichen Rahmens, um explizit KI-generierte Materialien zu adressieren.
- Investitionen in digitale Resilienz und KI-Kompetenz für Kinder und Eltern.
Schlussfolgerung
Die Diskussion offenbart die Spannungen innerhalb der KI-Governance in Indien, wo Plattformen zwar an Design-Schutzmaßnahmen arbeiten, aber die Opfer oft auf ad hoc-Lösungen angewiesen sind. Ohne spezifische Verpflichtungen und Verantwortlichkeiten für KI-Systeme wird die Sicherheit von Kindern weiterhin nur reaktiv behandelt.
