La Nueva Ley de Seguridad de IA en Nueva York
El estado de Nueva York ha tomado una medida significativa al aprobar una ley que busca prevenir desastres provocados por modelos de IA avanzados. Este desarrollo surge en un contexto donde la seguridad en inteligencia artificial se ha convertido en una prioridad creciente.
Detalles de la Ley RAISE
La ley, conocida como RAISE Act, fue aprobada por los legisladores de Nueva York con el objetivo de evitar que modelos de IA de empresas como OpenAI, Google y Anthropic contribuyan a escenarios de desastre. Estos desastres podrían incluir la muerte o lesiones de más de 100 personas, o daños que superen los $1,000 millones.
La aprobación de esta ley representa un avance para el movimiento de seguridad en IA, que ha perdido impulso en los últimos años debido a las prioridades de velocidad e innovación en Silicon Valley. Defensores de la seguridad, como el laureado Nobel Geoffrey Hinton y el pionero en investigación de IA Yoshua Bengio, han apoyado la ley RAISE.
Objetivos y Provisiones
El RAISE Act establece un conjunto de estándares de transparencia legalmente obligatorios para los laboratorios de IA avanzados. Entre sus principales disposiciones se incluye la obligación de que los laboratorios más grandes publiquen informes completos de seguridad sobre sus modelos de IA avanzados. También se requiere que informen sobre incidentes de seguridad, como comportamientos preocupantes de los modelos de IA o robos de modelos.
Si las empresas tecnológicas no cumplen con estas normas, el Fiscal General de Nueva York tiene la autoridad para imponer sanciones civiles de hasta $30 millones.
Comparativa con la Ley de California
La RAISE Act comparte algunas similitudes con la controversial ley de seguridad de IA de California, SB 1047, que fue vetada. Sin embargo, el co-patrocinador de la ley, el senador de Nueva York Andrew Gounardes, ha afirmado que la RAISE Act fue diseñada para no inhibir la innovación entre startups o investigadores académicos, una crítica común a la ley de California.
Opiniones y Críticas
A pesar de su enfoque en la seguridad, la ley ha enfrentado considerable resistencia de la industria tecnológica. Algunos críticos la consideran una medida que podría perjudicar a la competitividad de EE. UU. frente a otros países que avanzan rápidamente en la tecnología de IA.
El vicepresidente de Asuntos Estatales en Encode, Nathan Calvin, ha señalado que la RAISE Act no requiere que los desarrolladores de modelos de IA incluyan un «interruptor de apagado» en sus modelos, ni responsabiliza a las empresas que entrenan modelos de IA avanzados por daños críticos.
Posibles Consecuencias
Una de las críticas recurrentes es que los desarrolladores de modelos de IA podrían optar por no ofrecer sus modelos más avanzados en Nueva York, como ha ocurrido en Europa debido a regulaciones estrictas. Sin embargo, el asambleísta Alex Bores ha defendido que la carga regulatoria de la RAISE Act es relativamente ligera y no debería impedir que las empresas tecnológicas operen en el estado.
Bores también ha mencionado que, dada la tercera economía más grande de EE. UU., la posibilidad de que las empresas se retiren de Nueva York no es algo que se tome a la ligera.
Conclusiones
La aprobación de la RAISE Act en Nueva York marca un hito en la regulación de la inteligencia artificial en EE. UU., buscando equilibrar la innovación con la seguridad. A medida que la tecnología continúa evolucionando, el establecimiento de guardrails se vuelve cada vez más urgente para mitigar riesgos potenciales. La atención ahora se centra en la decisión de la Gobernadora Kathy Hochul sobre si firmar la ley, enmendarla o vetarla.
