El Veto de la Ley de IA de California
Recientemente, la legislatura de California aprobó la SB 1047, conocida como la Ley de Innovación Segura y Segura para Modelos de Inteligencia Artificial de Frontera. Sin embargo, esta legislación fue vetada por el gobernador Gavin Newsom, generando un amplio debate sobre la regulación de la inteligencia artificial (IA) y sus implicaciones para la seguridad pública.
Contexto y Motivación
Las preocupaciones sobre los riesgos que los sistemas de IA pueden representar para la seguridad pública han llevado a legisladores de todo el mundo a proponer iniciativas legislativas. La SB 1047 fue un intento audaz de establecer un marco regulatorio para los modelos de IA de gran escala, que son aquellos entrenados con capacidades computacionales superiores a 10^26 operaciones o costos de más de $100 millones.
Características Clave de la SB 1047
Bajo esta legislación, los desarrolladores de modelos de IA de gran escala tendrían la responsabilidad de asegurar que estos modelos no causen «daños críticos». La ley identificaba cuatro categorías de daños críticos:
- Creación o uso de armas químicas, biológicas, radiológicas o nucleares que causen muertes masivas.
- Ciberataques a infraestructuras críticas que resulten en muertes masivas o daños superiores a $500 millones.
- Lesiones corporales o daños a la propiedad que causarían crímenes si fueran cometidos por humanos.
- Otros daños graves comparables a la seguridad pública.
Los desarrolladores estarían obligados a implementar medidas antes, durante y después del desarrollo de estos modelos, incluyendo la instalación de un «interruptor de emergencia» para detener sistemas de IA que representen riesgos inaceptables.
Comparación con la Ley de IA de la UE
A diferencia de la SB 1047, la legislación de la Unión Europea se centra en un enfoque más amplio hacia la regulación de la IA, sin limitarse únicamente a los modelos de gran escala. Sin embargo, ambas leyes comparten el objetivo de garantizar la seguridad de los sistemas de IA y prevenir daños sustanciales a la sociedad.
Posturas de Proponentes y Oponentes
Los proponentes de la SB 1047, entre ellos la empresa Anthropic, argumentaron que la legislación era un mínimo efectivo de regulación. Creen que los desarrolladores son los que mejor pueden prevenir daños críticos.
Por otro lado, gigantes tecnológicos como Google y Meta se opusieron a la ley, argumentando que se centraría en el desarrollo en lugar de en el uso perjudicial de la IA, lo cual podría obstaculizar la innovación en la industria de IA en EE.UU.
Reacciones del Gobernador Newsom
En su declaración de veto, el gobernador Newsom expresó su preocupación de que la ley podría perjudicar la innovación en California, un estado que alberga a 32 de las principales empresas de IA del mundo. Sugirió que la regulación de la IA debería basarse en evidencia empírica y cuestionó si la ley era la adecuada en este momento.
Conclusión
El veto de la SB 1047 ha reavivado el debate sobre cómo regular adecuadamente los sistemas de IA en un entorno en rápida evolución. A medida que la tecnología avanza, es fundamental que las regulaciones se adapten y evolucionen para equilibrar la seguridad pública con la necesidad de innovación.
