Relaciones mortales de IA con niños: un legislador de Utah busca hacerlas ilegales
No pasó mucho tiempo para que surgieran titulares trágicos, historias de inteligencia artificial que alentaban a los jóvenes a abrazar delirios, terminar matrimonios o cometer suicidio.
Desde que la ciencia ficción de la IA capturó la imaginación pública en 2023, los chatbots de IA se han convertido en una herramienta utilizada por millones y un objetivo para nuevas políticas públicas.
Iniciativas legislativas en Utah
En 2023, los legisladores de Utah recibieron atención nacional por crear un laboratorio de políticas de IA pionero para guiar la innovación de manera que ayude a elaborar reformas de protección al consumidor. Ahora, el defensor más ferviente de la responsabilidad de las grandes empresas tecnológicas en la Legislatura afirma que Utah debe dar un paso urgente para garantizar que la IA en rápida evolución priorice la seguridad infantil.
Un legislador ha presentado dos proyectos de ley que exigirían a las empresas de IA publicar planes de seguridad infantil y prevenir que los chatbots participen en conversaciones inapropiadas con menores. Según él, ambos proyectos surgen de la necesidad de que las reglas se pongan al día con el impacto que la IA ya tiene en la vida de los niños.
Detalles de los proyectos de ley
El proyecto de ley HB286, que aborda cómo los menores utilizan chatbots de IA, requeriría que los desarrolladores de nuevas tecnologías de IA publiquen planes de seguridad y protección infantil en sus sitios web, así como evaluaciones de riesgo para modelos originales de IA y reporten incidentes de seguridad a la oficina de políticas de IA del estado.
Este proyecto establecería una penalización civil de un millón de dólares por una primera violación y tres millones por violaciones posteriores, además de proporcionar protecciones legales para los denunciantes que informen sobre preocupaciones de seguridad respecto a los programas de IA.
Preocupaciones sobre la regulación
Expertos en políticas de IA han expresado preocupación de que las propuestas puedan obstaculizar el progreso y entrar en conflicto con las políticas de la administración actual. Se teme que estas regulaciones puedan influir en la forma en que se crean los futuros modelos de IA, en lugar de abordar solo el impacto de los modelos existentes.
La legislación anterior de Utah había establecido un laboratorio de políticas de IA que proporcionaba protección de responsabilidad para las empresas de IA mientras se trabaja con ellas para desarrollar regulaciones que fomenten el crecimiento.
Opiniones sobre la necesidad de regulación
Algunos expertos creen que las propuestas intentan culpar a la IA por problemas de salud mental más profundos que afectan a los jóvenes y podrían generar preocupaciones sobre la Primera Enmienda al controlar qué información pueden acceder los usuarios de los programas de IA.
A pesar de las preocupaciones, la mayoría de los votantes en Utah apoyan los componentes del proyecto de ley HB286, con un alto porcentaje deseando que los legisladores prioricen la seguridad de la IA.
Conclusión
El legislador, que ha sido un defensor de la legislación de privacidad en línea, enfatiza que sus proyectos de ley buscan un enfoque equilibrado que proteja la transparencia y a los niños, apoyando al mismo tiempo los objetivos de innovación de la administración actual.
