Discusiones sobre regulaciones de IA en las escuelas públicas
Durante la sesión legislativa de 2026, los legisladores están participando en discusiones sobre la integración de la inteligencia artificial (IA) en las actividades diarias. El enfoque está en establecer pautas para el uso de la IA, un tema que trasciende las líneas políticas, ya que la mayoría coincide en la necesidad de una implementación estructurada.
Propuesta de legislación
Un proyecto de ley del Senado busca establecer límites sobre cómo se utilizan los sistemas de decisión automatizados y las tecnologías de vigilancia en las escuelas públicas. Este proyecto establecería límites a nivel estatal sobre las herramientas impulsadas por IA, destacando que los sistemas de IA deberían poder informar decisiones, pero no reemplazar el juicio humano.
Restricciones en el uso de la IA
La legislación propuesta busca prohibir el uso de la IA como única base para la disciplina estudiantil, las derivaciones a la policía, la colocación en entornos educativos alternativos, la creación de «puntuaciones de riesgo» para los estudiantes o el uso de datos biométricos como el reconocimiento facial.
Riesgos de los sistemas automatizados
Una de las perspectivas compartidas durante las discusiones enfatizó los riesgos de los sistemas automatizados en las escuelas. Se observa un aumento en el uso de estos sistemas para mantener la seguridad de los estudiantes o predecir el comportamiento estudiantil, asignar puntuaciones de riesgo y aumentar la vigilancia sin transparencia, contexto ni juicio humano significativo.
Un ejemplo mencionado incluyó un incidente donde la IA identificó erróneamente una bolsa de Doritos como un arma. Este tipo de error podría ser «tremendamente aterrador» y «extremadamente frustrante» para los padres.
Esfuerzo legislativo más amplio
Este proyecto de ley es parte de un esfuerzo legislativo más amplio para abordar diversas preocupaciones sobre la IA. Otros proyectos de ley se centran en chatbots de IA, deepfakes y la influencia de la IA en decisiones relacionadas con el empleo, la vivienda y la atención médica.
