Utah se mueve para extender las normas de tecnología de seguridad infantil a la IA
Utah está dando un paso adelante en la regulación tecnológica, centrándose ahora en los sistemas avanzados de inteligencia artificial (IA) y la seguridad pública. Un nuevo proyecto de ley ha sido introducido con el objetivo de exigir a las empresas de IA que operan en el estado que divulguen públicamente cómo evalúan y mitigan los riesgos graves asociados con sus sistemas, especialmente aquellos que afectan a los niños.
Requisitos del proyecto de ley
- Redactar y publicar planes de seguridad pública y protección infantil que expliquen cómo evalúan y mitigan los riesgos severos relacionados con la IA.
- Seguir estos planes en la práctica, en lugar de tratarlos como compromisos voluntarios.
- Reportar incidentes significativos de seguridad relacionados con la IA.
- Abstenerse de tomar represalias contra empleados que planteen preocupaciones internas o revelen fallos.
Justificación y apoyo
Los defensores del proyecto de ley argumentan que cierra una brecha reguladora. Aunque muchas empresas de IA han adoptado voluntariamente marcos de seguridad internos, actualmente no se les exige documentar o divulgar esos esfuerzos. El enfoque del proyecto de ley es la transparencia, obligando a las empresas a explicar públicamente cómo manejan los riesgos de seguridad a medida que los sistemas de IA se vuelven más capaces y se implementan ampliamente.
Un enfoque familiar para Utah
Utah ya se ha posicionado como un líder nacional en la regulación tecnológica centrada en la infancia, particularmente en torno a las plataformas de redes sociales. En marzo de 2023, Utah se convirtió en el primer estado de EE. UU. en promulgar leyes que restringen el uso de redes sociales por parte de niños, lo que señala un enfoque legislativo agresivo hacia la tecnología y la seguridad infantil.
El proyecto de ley extiende esta filosofía a la IA, un sector que avanza rápidamente y con menos normas establecidas. Los grupos de defensa que apoyan el proyecto de ley creen que la transparencia puede cambiar el comportamiento de las empresas.
Soporte público y preocupaciones sobre la aplicación
Un anuncio del proyecto de ley se acompaña de una encuesta estatal que muestra una amplia preocupación de los votantes sobre la supervisión de la IA. Según la encuesta, el 90% de los votantes de Utah apoyan la implementación de protocolos de seguridad para proteger a los niños, y el 71% teme que el estado no regule la IA lo suficiente.
El proyecto de ley establece límites claros sobre su alcance y aplicación, aplicándose solo a «grandes desarrolladores fronterizos», definidos como empresas que han entrenado modelos de IA avanzados utilizando al menos 1026 operaciones computacionales y reportaron al menos 500 millones de dólares en ingresos anuales. La aplicación recaerá en el fiscal general de Utah, quien podrá presentar acciones civiles contra empresas que violen la ley.
Próximos pasos
El proyecto de ley está programado para su primera prueba importante, donde será considerado por el Comité de Desarrollo Económico y Servicios Laborales de la Cámara. Si avanza, se acercará a una votación completa en la Cámara y a un debate más sustantivo sobre hasta dónde deben llegar los estados en la responsabilidad pública de los desarrolladores de IA por los riesgos de seguridad.
