Wie sollten die Rechte von Kindern in die KI-Governance integriert werden?
Die künstliche Intelligenz (KI) ist zunehmend in Bildungskontexten präsent, wo sie zur Personalisierung von Lernerfahrungen, zur Überwachung und Verfolgung von Leistungen oder zur Unterstützung von Lehrern bei der Planung und Durchführung von Unterricht eingesetzt wird. Da Kinder immer mehr Zeit online verbringen und über soziale Medien miteinander kommunizieren, beeinflusst KI, wie sie auf Informationen über die Welt zugreifen und wie sie Freundschaften bilden und aufrechterhalten.
Darüber hinaus haben KI-Systeme, die im öffentlichen Sektor eingesetzt werden, erhebliche Auswirkungen auf das Leben von Kindern und deren Familien, indem sie Entscheidungen über den Zugang zu wichtigen Dienstleistungen im Gesundheitswesen, in der Bildung, im Wohnen oder in der Strafjustiz informieren. Es ist jedoch besorgniserregend, dass Kinder in den Entscheidungsprozessen, die das Design, die Entwicklung, den Einsatz oder die Governance von KI betreffen, weitgehend ausgeschlossen sind. Oft werden KI-Technologien ohne Berücksichtigung der spezifischen Bedürfnisse, Verwundbarkeiten und Interessen jüngerer Nutzer entwickelt.
Die politischen oder regulatorischen Maßnahmen, die eine Schlüsselrolle beim Schutz der Kinder spielen, werden häufig ohne Einblick in die tatsächlichen Erfahrungen oder Interessen der Kinder entwickelt. Diese Tatsache kann erhebliche negative Auswirkungen auf die Rechte der Kinder haben. Obwohl fast alle Länder weltweit die Vereinten Nationen über die Rechte des Kindes (UNCRC) unterzeichnet haben, ergab eine Studie von UNICEF im Jahr 2020, dass in den nationalen KI-Strategien der meisten 20 Länder nur minimale oder keine Erwähnung der Kinderrechte enthalten war.
Aktuelle Arbeiten und Ergebnisse
Seit 2020 arbeitet das Team für Rechte von Kindern und KI am Alan Turing Institute an spannenden neuen Projekten, die die Rechte von Kindern und KI erkunden. Gemeinsam mit UNICEF wurde ein Entwurf für politische Leitlinien zu kinderzentrierter KI erprobt. In dieser Forschung wurden halbstrukturierte Interviews mit Stakeholdern des öffentlichen Sektors im Vereinigten Königreich durchgeführt. Viele Stakeholder geben an, dass sie Kinder in Bezug auf KI einbeziehen möchten, jedoch oft nicht wissen, wie.
Basierend auf dieser Arbeit untersucht unser Forschungsartikel „Navigating Children’s Rights and AI in the UK: A roadmap through uncertain territory“ aktuelle Ansätze zur Berücksichtigung der Kinderrechte in Bezug auf KI-Systeme. Um eine globalere Perspektive zu ermöglichen, wurde eine eingehende Analyse durchgeführt, die Rahmenbedingungen an den Schnittstellen von datengestützten Technologien, den Rechten von Kindern und dem Wohlbefinden von Kindern abbildet.
Die Ergebnisse dieser Analyse wurden in unserem kürzlich veröffentlichten Bericht „KI, Rechte von Kindern und Wohlbefinden: Transnationale Rahmenbedingungen“ veröffentlicht, der zwei Heatmaps enthält, die unsere Analyse und Bewertung von 13 transnationalen Rahmenbedingungen in Bezug auf drei zentrale Themen zeigen: die Rechte von Kindern, das Wohlbefinden von Kindern sowie kinderzentrierte Empfehlungen und Politiken.
Auf einer detaillierten Ebene wurden spezifische Kategorien der Kinderrechte (z. B. Nichtdiskriminierung, das Wohl des Kindes) sowie Verstöße gegen die Kinderrechte in Bezug auf Kindesausbeutung betrachtet. Zudem wurde das Wohlbefinden von Kindern und soziotechnische Überlegungen, wie die Bedeutung der Stimme und der Handlungsfähigkeit von Kindern, Chancen und Risiken sowie besondere Berücksichtigung von gefährdeten und benachteiligten Kindern, untersucht.
Zu den wichtigsten Ergebnissen unserer Forschung gehört, dass die meisten Rahmenbedingungen sich hauptsächlich darauf konzentrierten, wie Regierungen und politische Entscheidungsträger die Rechte von Kindern durch Regulierung und Leitlinien wahren müssen. Es wurde jedoch nur wenig darüber gesagt, wie Regierungen sicherstellen können, dass sie nicht selbst die Rechte der Kinder verletzen. Zudem gab es oft keine Unterscheidung zwischen den Rechten der Kinder und deren Wohlbefinden, da die beiden Begriffe manchmal synonym verwendet wurden.
Empfehlungen für die Zukunft
Unser Bericht zeigt, dass ein multistakeholder Ansatz für die internationale Zusammenarbeit und den Wissensaustausch erforderlich ist, um sicherzustellen, dass diese Rahmenbedingungen effektiv in der Praxis genutzt werden. Es ist entscheidend, dass Kinder und junge Menschen im Mittelpunkt dieser Diskussionen bleiben, insbesondere angesichts der bevorstehenden Veröffentlichung des aktualisierten EU KI-Gesetzes und des Rahmenkonvents des Europarates über KI, Menschenrechte, Demokratie und Rechtsstaatlichkeit.
Während wir die sich entwickelnden Arbeiten und Bemühungen auf gesetzlicher und politischer Ebene unterstützen, die die Rechte der Kinder anerkennen, glauben wir, dass mehr getan werden muss. Da KI zunehmend im Alltag von Kindern präsent ist, ist es von entscheidender Bedeutung, dass die Rechte und Stimmen der Kinder im Herzen der Entscheidungsprozesse stehen, die das Design, die Entwicklung, den Einsatz und die Governance von KI-Systemen betreffen, die ihr Leben beeinflussen.
Die bedeutungsvolle Einbeziehung von Kindern in diese Prozesse ist entscheidend, um sicherzustellen, dass die Vorteile der KI verwirklicht werden und gleichzeitig Kinder vor den Risiken geschützt werden, die von KI ausgehen, um eine digitale Welt zu schaffen, in der sie gedeihen können.
