La inteligencia artificial (IA) está cada vez más integrada en las operaciones de servicios financieros, transformando desde interacciones con los consumidores hasta funciones esenciales como la detección de fraudes y decisiones de crédito. A medida que la adopción de la IA avanza, la cuestión de qué agencias regularán su uso sigue sin resolverse.
Los agentes de inteligencia artificial se están convirtiendo en fundamentales para las operaciones empresariales, desempeñando roles en la gestión de tickets de servicio, la personalización de experiencias de usuario y el cumplimiento normativo. Sin embargo, esta rápida adopción ocurre en medio de una falta de claridad regulatoria y modelos de gobernanza que aún están en desarrollo.
Los CISOs del sector financiero enfrentan un desafío crucial: promover la adopción de la inteligencia artificial mientras construyen defensas contra amenazas potenciadas por esta tecnología. Este dilema exige un marco estratégico robusto que equilibre la innovación con la gestión de riesgos.
La legislación sobre la regulación de la seguridad de la IA, conocida como la Ley RAISE, ha sido aprobada en Nueva York, lo que ha generado descontento entre los capitalistas de riesgo. La ley exige que los desarrolladores de modelos de lenguaje grandes creen y publiquen protocolos de seguridad y evaluaciones de riesgos.
El 21 de marzo, el Proyecto de Ley 149 de Ontario, Ley de Trabajo para Trabajadores Cuatro, 2024, recibió la sanción real e introduce enmiendas significativas a la Ley de Normas de Empleo de 2000. A partir del 1 de enero de 2026, los empleadores con veinticinco empleados o más deberán incluir una declaración en las ofertas de trabajo si se utiliza inteligencia artificial para evaluar o seleccionar candidatos.
El Senado del Estado de Nueva York ha aprobado un proyecto de ley que exige a las principales empresas de IA generativa publicar informes de seguridad y notificar a los consumidores sobre incidentes de seguridad. La ley, conocida como la Ley de Seguridad y Educación de IA Responsable (RAISE), será presentada a la gobernadora Kathy Hochul para su decisión final.
La Unión Europea ha iniciado una nueva era de regulación de la inteligencia artificial con la Ley de Inteligencia Artificial, que entró en vigor el 1 de agosto de 2024. Esta legislación establece el primer marco legal integral del mundo para la inteligencia artificial y ya está transformando cómo se desarrolla, despliega y gobierna la IA a nivel global.
Nueva York está a punto de introducir una de las primeras leyes que regulará los modelos avanzados de inteligencia artificial en los Estados Unidos. La Ley de Seguridad y Educación de IA Responsable (RAISE) requerirá que los desarrolladores de IA, como OpenAI y Google, implementen estrictas medidas de seguridad antes de que sus modelos sean públicos.
La FDA celebra el reciente lanzamiento de su herramienta interna de IA, Elsa, como un gran avance en la revisión regulatoria. Sin embargo, Erez Kaminski, experto en IA regulada, advierte que la agencia podría enfrentar una dura batalla inicial mientras construye la infraestructura necesaria.
Los legisladores del estado de Nueva York quieren imponer nuevos requisitos de seguridad para los modelos de inteligencia artificial más avanzados del mundo, pero los legisladores federales amenazan con usurpar las nuevas reglas antes de que se implementen. La legislación requeriría que los desarrolladores de estos modelos presenten planes de seguridad completos para reducir el riesgo de causar daños graves.