¿Cómo deben integrarse los derechos de los niños en la gobernanza de la IA?
La inteligencia artificial (IA) está cada vez más presente en contextos educativos, donde se utiliza para personalizar experiencias de aprendizaje, monitorear y rastrear logros, o asistir a los docentes en la planificación y entrega de lecciones. A medida que los niños pasan más tiempo en línea y conectándose a través de las redes sociales, la IA está moldeando cómo acceden y reciben información sobre el mundo, así como la forma en que forman y mantienen amistades.
Además, los sistemas de IA desplegados en el sector público están teniendo un impacto significativo en la vida de los niños y sus familias, al informar decisiones sobre el acceso a servicios clave en salud, educación, vivienda o justicia penal, por nombrar algunos ejemplos.
La falta de participación infantil en la toma de decisiones
A pesar de la creciente influencia de la IA en todas las áreas de la vida de los niños, estos están en gran medida ausentes de los procesos de toma de decisiones relacionados con el diseño, desarrollo, implementación o gobernanza de la IA. Esto significa que a menudo se diseñan tecnologías de IA sin considerar las necesidades, vulnerabilidades e intereses particulares de los usuarios más jóvenes.
Además, las respuestas políticas o regulatorias, que juegan un papel clave en la protección de los niños, a menudo se desarrollan sin una comprensión real de las experiencias o intereses de los niños. Sin abordar estas consideraciones vitales, la IA puede tener impactos significativos y perjudiciales en los derechos de los niños.
Estudios y hallazgos recientes
A pesar de que casi todos los países del mundo han firmado la Convención de las Naciones Unidas sobre los Derechos del Niño (UNCRC), un estudio de UNICEF en 2020 encontró que, de 20 países con estrategias nacionales de IA, la mayoría incluía menciones mínimas o ninguna sobre los derechos de los niños. La gobernanza de la IA debe desempeñar un papel en garantizar que los derechos de los niños se respeten en todo momento y que los sistemas de IA se diseñen y utilicen para apoyar el mejor interés del niño. Para lograr esto, se necesita más investigación para comprender las variadas y cambiantes relaciones de los niños con la IA.
Trabajo actual en derechos de los niños y IA
Desde 2020, el equipo de Derechos de los Niños y IA ha trabajado en emocionantes nuevos proyectos que exploran estos temas. En colaboración con UNICEF, el equipo realizó una serie de entrevistas semiestructuradas con partes interesadas del sector público en el Reino Unido, descubriendo que, aunque muchos desean involucrar a los niños en relación con la IA, generalmente no saben cómo hacerlo.
El artículo de investigación titulado Navegando los Derechos de los Niños y la IA en el Reino Unido examina los enfoques actuales diseñados para abordar los derechos de los niños en relación con los sistemas de IA. Además, se llevó a cabo un análisis en profundidad mapeando marcos en las intersecciones de tecnologías intensivas en datos, derechos de los niños y bienestar. Estos hallazgos se publicaron en el informe IA, Derechos de los Niños y Bienestar: Marcos Transnacionales, que incluye mapas de calor que ilustran el análisis y la evaluación de 13 marcos transnacionales relacionados con los derechos de los niños.
Retos y recomendaciones
El informe destaca la necesidad de un enfoque multistakeholder en la colaboración internacional y el intercambio de conocimientos para garantizar que estos marcos se utilicen de manera efectiva en la práctica. A medida que muchos países esperan la publicación de la actualización de la Ley de IA de la UE y el Convenio del Consejo de Europa sobre IA, Derechos Humanos, Democracia y Estado de Derecho, es crucial que los niños y jóvenes permanezcan en el centro de estas conversaciones.
A pesar del trabajo emergente y los esfuerzos en los niveles legales y políticos para reconocer los derechos de los niños, se cree que se necesita hacer más. A medida que la IA se vuelve más prevalente en la vida diaria de los niños, es vital que sus derechos y voces estén en el corazón de los procesos de toma de decisiones en torno al diseño, desarrollo, implementación y gobernanza de los sistemas de IA que impactan sus vidas. Involucrar de manera significativa a los niños en estos procesos es crucial para asegurar que se realicen los beneficios de la IA mientras se protege a los niños de los riesgos asociados con ella, creando un mundo digital en el que puedan prosperar.
