Veto de la Ley de IA de California
La reciente legislación sobre la regulación de la inteligencia artificial (IA) en California ha sido objeto de un intenso debate y finalmente fue vetada por el gobernador Gavin Newsom. Esta ley, conocida como SB 1047, fue diseñada para abordar los riesgos significativos que los sistemas de IA pueden representar para la seguridad pública.
Características Clave de SB 1047
SB 1047 establecía que los desarrolladores de modelos de IA de gran escala tendrían la responsabilidad de garantizar que estos modelos no causaran daños críticos. La ley identificaba cuatro categorías de daños críticos:
- Creación o uso de armas químicas, biológicas, radiológicas o nucleares que causen masacres.
- Masacres o daños superiores a $500 millones debido a ciberataques a infraestructuras críticas.
- Masacres o daños que resultarían en lesiones corporales o daños a la propiedad que serían considerados un crimen si fueran causados por humanos.
- Otros daños comparables a la seguridad pública.
Los desarrolladores estarían obligados a tomar varias medidas en tres fases de desarrollo: antes del entrenamiento, antes de la utilización del modelo y durante su uso. Entre las medidas requeridas se encontraba la instalación de un “interruptor de emergencia” que permitiría detener el sistema de IA antes de que pudiera causar daños críticos.
Comparación con la Ley de IA de la UE
SB 1047 y la Ley de IA de la Unión Europea comparten un enfoque en los problemas de seguridad que presentan los sistemas avanzados de IA. Ambas legislaciones requieren el desarrollo de protocolos de seguridad, pruebas previas al despliegue y auditorías por terceros independientes. Sin embargo, hay diferencias notables:
- SB 1047 se centraba principalmente en los desarrolladores de modelos de gran escala, mientras que la Ley de la UE aborda a los desplegadores.
- La ley de California requería específicamente la instalación de un “interruptor de emergencia”, a diferencia de la legislación europea.
- SB 1047 identificaba cuatro tipos específicos de daños críticos, mientras que la Ley de la UE tiene una concepción más amplia de los daños y riesgos.
Proponentes y Oponentes de SB 1047
Entre los proponentes de SB 1047 se encontraba la compañía Anthropic, así como muchos investigadores y expertos en IA que apoyaban la idea de que los desarrolladores de modelos avanzados deberían ser responsables de prevenir daños críticos. Según informes, el 65% de los californianos apoyaban la ley, lo que refleja un deseo generalizado de que los desarrolladores de IA implementen medidas de seguridad.
Por otro lado, entre los oponentes estaban grandes empresas tecnológicas como Google y OpenAI, que argumentaron que la ley podría obstaculizar la innovación y la competitividad de Estados Unidos en el ámbito de la IA. También expresaron preocupaciones sobre cómo la ley se enfocaba en el desarrollo de modelos en lugar de en los usos dañinos de los mismos.
Reacciones del Gobernador Newsom
El gobernador Newsom justificó su veto al señalar que la legislación podría perjudicar la innovación en la industria de IA de California, hogar de 32 de las principales compañías de IA del mundo. Él abogó por un enfoque basado en evidencia empírica y en ciencia para la regulación de la IA.
Conclusión
El veto de SB 1047 resalta la complejidad de regular una tecnología en rápida evolución como la IA. A medida que la discusión sobre los riesgos y beneficios de la IA continúa, la necesidad de una regulación adecuada y bien fundamentada se vuelve cada vez más crucial. La legislación debe basarse en evidencias concretas de daños reales, en lugar de suposiciones, para asegurar un futuro en el que la IA pueda desarrollarse de manera segura y responsable.
