Medida de Seguridad de IA a Nivel Estatal Surge para la Juventud de California
Una nueva medida propuesta a nivel estatal en California fortalecería las protecciones para los niños y adolescentes que utilizan inteligencia artificial (IA), y sus creadores esperan que tenga éxito donde otras legislaciones similares fracasaron el año pasado.
La medida, presentada formalmente durante una conferencia de prensa virtual, establecería requisitos sobre verificación de edad, protecciones de datos, controles parentales y auditorías de seguridad independientes para productos de IA utilizados por menores. Aún no se ha presentado como un proyecto de ley en la Legislatura estatal.
Contexto de la Medida Anterior
La medida anterior, conocida como AB 1064, fue patrocinada el año pasado y aprobada por la Legislatura estatal, pero no fue firmada. El gobernador expresó que su principal preocupación era que la ley resultara en una prohibición de facto del uso de chatbots por menores, en lugar de permitir que los jóvenes aprendieran a interactuar de manera segura con los sistemas de IA.
Los líderes de la nueva propuesta caracterizan este enfoque como una recalibración que mantiene fuertes salvaguardias de seguridad, alejándose de restricciones basadas en características que podrían limitar el acceso de los jóvenes a la IA.
Requisitos de la Nueva Propuesta
La propuesta incluye un conjunto de requisitos que impondrían nuevos estándares a los sistemas de IA utilizados por menores, incluyendo herramientas comercializadas para escuelas como tutores y asistentes de escritura. En el centro de la propuesta se encuentra la verificación de edad, donde las empresas de IA tendrían que determinar si un usuario es menor de 18 años y aplicar protecciones infantiles cuando no se pueda confirmar la edad con certeza.
La propuesta también prohibiría la publicidad dirigida a niños y restringiría la venta de datos de menores sin consentimiento parental, ampliando las protecciones para todos los usuarios menores de 18 años. Esto podría tener implicaciones directas para los proveedores de tecnología educativa que dependen de la personalización y el análisis de participación.
En términos de seguridad, se requerirían salvaguardias para prevenir que los sistemas de IA generen o promuevan contenido relacionado con el autolesionismo, trastornos alimentarios, violencia y actos sexualmente explícitos.
Además, se exigiría a las empresas de IA proporcionar a los padres controles parentales fáciles de usar, incluyendo la capacidad de monitorear y limitar el uso de IA, así como alertas cuando los sistemas detecten signos de autolesionismo.
Implicaciones y Futuro
Los oradores sobre la propuesta indicaron que están persiguiendo una estrategia de doble vía: abogando por una acción legislativa mientras preservan la opción de una iniciativa de votación, si es necesario. La propuesta podría influir en cómo los distritos evalúan las herramientas de IA y cómo se equilibran la seguridad de los estudiantes y la preparación para la IA en las aulas.
No es un tema político partidista, ya que todos los padres y votantes reconocen la necesidad de protecciones serias para niños y adolescentes en el futuro.
