Nueva legislación en Nueva York aborda la seguridad de la inteligencia artificial: La Ley RAISE y Modelos de Compañeros de IA
El estado de Nueva York se posicionó a la vanguardia de la regulación de la inteligencia artificial (IA) en 2025. Entre sus actividades destacadas, la legislatura estatal promulgó una ley presupuestaria que implementa salvaguardias para los compañeros de IA, la cual entró en vigor el 5 de noviembre de 2025. Además, se firmó una versión enmendada de la Ley de Seguridad y Educación de Inteligencia Artificial Responsable (RAISE) el 19 de diciembre de 2025. Nueva York se une a otros estados como Colorado, California y Utah en la regulación de la IA a nivel estatal, en un creciente mosaico de legislación integral y específica sobre IA.
Modelos de Compañeros de Inteligencia Artificial
La ley de Modelos de Compañeros de IA exige a los operadores y proveedores de compañeros de IA implementar medidas de seguridad y protocolos para detectar y abordar la expresión de ideación suicida o autolesiones por parte de los usuarios. También se requiere que se informe regularmente a los usuarios que no están comunicándose con un ser humano.
Esta ley se aplica a todos los operadores de compañeros de IA cuyos usuarios se encuentren en Nueva York. Se define «compañeros de IA» como sistemas que utilizan IA y/o algoritmos de reconocimiento emocional diseñados para simular una relación humana sostenida con un usuario. Los operadores deben proporcionar una notificación clara y visible que indique que el usuario no está hablando con un humano, al menos cada tres horas en interacciones continuas.
Requisitos Clave
Los operadores deben asegurarse de que su sistema contenga protocolos para detectar y abordar la ideación suicida o autolesiones. En caso de detectar tales expresiones, se debe referir al usuario a un servicio de crisis apropiado. La ley será aplicada por el fiscal general estatal, quien puede buscar sanciones civiles de hasta $15,000 por día por violaciones.
Próximos Pasos
Los operadores cubiertos por la ley deben determinar cómo notificar a los usuarios que no están comunicándose con un humano, cómo garantizar que esta notificación sea clara y visible, y cómo detectar y abordar expresiones de ideación suicida o autolesiones.
Acta de Seguridad y Educación de Inteligencia Artificial Responsable (RAISE)
Además, Nueva York abordó cuestiones más amplias de seguridad con la aprobación de la Ley RAISE, que entrará en vigor el 1 de enero de 2027. Esta ley exige a los desarrolladores de modelos avanzados implementar requisitos de transparencia y divulgación, incluyendo la publicación de protocolos de seguridad y la concesión de acceso a las autoridades pertinentes.
Requisitos Fundamentales
Los requisitos clave para los desarrolladores incluyen la realización de revisiones de seguridad anuales y auditorías de terceros, la publicación de información sobre protocolos de seguridad y la notificación de incidentes de seguridad dentro de las 72 horas. La ley prohíbe la implementación de modelos que representen un «riesgo irrazonable de daño crítico».
Conclusiones
La legislación de Nueva York representa un enfoque novedoso hacia la regulación de la IA, con énfasis en la seguridad del usuario y la transparencia de los desarrolladores. A medida que más estados implementan leyes relacionadas con la IA, se espera un aumento en la presión para establecer normas claras y efectivas a nivel nacional.
