California Measure Would Protect Children Who Use AI Chatbots
Un grupo líder en defensa de la seguridad infantil se ha unido para impulsar una iniciativa estatal de votación, que se considera la medida de seguridad en inteligencia artificial más completa para niños en el país.
Detalles de la Iniciativa
Si se incluye la medida en la boleta de noviembre y los votantes de California la aprueban, la Ley de Seguridad AI para Padres e Hijos requeriría que las empresas adopten un conjunto de requisitos destinados a proteger a los menores de los efectos potencialmente dañinos asociados con el uso de la IA. Además, se autorizaría al fiscal general del estado para hacer cumplir estas reglas.
Contexto y Motivación
El interés público en la seguridad en línea de los niños, especialmente en lo que respecta a la IA, ha crecido con el tiempo, impulsado en parte por incidentes trágicos. La iniciativa busca evitar errores del pasado relacionados con las redes sociales, cuando las empresas utilizaron a los niños como conejillos de indias, contribuyendo a una crisis de salud mental juvenil.
Requisitos de la Ley
La Ley de Seguridad AI para Padres e Hijos exigiría a las empresas de IA determinar si un usuario es menor mediante tecnología de verificación de edad. También se establecerían salvaguardias para evitar que los menores desarrollen dependencia emocional o mantengan relaciones románticas simuladas con sistemas de IA. Se prohibiría la publicidad dirigida a los menores y se requeriría el consentimiento parental para la venta de datos de menores.
Auditorías y Sanciones
La medida también obligaría a las empresas de IA a someterse a auditorías de seguridad independientes y realizar evaluaciones anuales de riesgo para la seguridad infantil, permitiendo al fiscal general investigar y aplicar sanciones financieras a las empresas que no cumplan.
Conclusión
La Ley de Seguridad AI para Padres e Hijos representa la fusión de dos iniciativas de boleta anteriores. Se espera que sirva como modelo para otros estados e incluso para el gobierno federal, estableciendo un precedente para la protección de los jóvenes en la era de la inteligencia artificial.
