California ha promulgado nuevas leyes de seguridad y transparencia en inteligencia artificial, exigiendo a las empresas que informen sobre el uso de tecnologías de toma de decisiones automatizadas. Al mismo tiempo, el gobernador Newsom vetó la ley ‘No Robo Bosses Act’, que buscaba regular el uso de sistemas automatizados en el empleo.
La interacción con clientes impulsada por IA es ahora crucial para los negocios, pero un 4-7% de las conversaciones de IA contienen respuestas tóxicas o sesgadas que pueden dañar la confianza del cliente. Por lo tanto, es esencial implementar un marco de monitoreo de toxicidad y equidad en tiempo real para garantizar interacciones seguras y confiables.
La inteligencia artificial está avanzando hacia dispositivos físicos que perciben, aprenden y se adaptan en tiempo real, pero las regulaciones en EE. UU. no están diseñadas para manejar estos sistemas híbridos. Sin una agencia única que los gobierne, estos productos habilitados para IA permanecen en un limbo legal y ponen en riesgo a los usuarios.
El Informe Internacional de Seguridad de IA 2025 destaca que no estamos adecuadamente preparados para los riesgos que representan los sistemas de IA de propósito general. A medida que avanzan las capacidades de la IA, la brecha entre lo que puede hacer y nuestra capacidad para gobernarlo de manera segura se amplía.
A medida que la inteligencia artificial se vuelve más poderosa y generalizada, también presenta riesgos significativos. La Unión Europea ha introducido la Ley de IA, el primer marco legal integral para regular la inteligencia artificial, que establece un nuevo estándar para una IA segura, transparente y justa.
California aprobó la Ley de Inteligencia Artificial Senate Bill 53 (SB 53), que exige a las grandes empresas de IA divulgar públicamente sus protocolos de seguridad. Esta legislación demuestra cómo la regulación gubernamental puede complementar los avances tecnológicos, asegurando que los productos sean seguros sin obstaculizar la innovación.
California ha dado un paso histórico hacia la regulación de la inteligencia artificial, promulgando la Ley de Transparencia en la Inteligencia Artificial de Frontera (SB 53), la primera ley estatal en Estados Unidos dedicada completamente a la seguridad y responsabilidad en IA. Esta ley requiere que los principales desarrolladores de IA publiquen marcos de seguridad, informen sobre incidentes graves y protejan a los empleados que denuncien violaciones.
La seguridad de la inteligencia artificial en las empresas está mal gobernada y fragmentada, lo que deja los riesgos más críticos sin gestionar. Un 50% de los encuestados espera pérdidas de datos a través de herramientas de IA generativa en el próximo año.
En la era de la inteligencia artificial (IA) y las tecnologías en la nube, las organizaciones están adoptando soluciones de gestión de postura de seguridad de IA (AI-SPM) para proteger datos sensibles y asegurar el cumplimiento normativo. Al evaluar estas soluciones, es crucial formular preguntas sobre la visibilidad, el control, la identificación de riesgos específicos de IA, y la alineación con los requisitos de cumplimiento regulatorio.
California ha aprobado una legislación pionera sobre la seguridad de la inteligencia artificial, que establece requisitos estrictos para la divulgación de protocolos de seguridad y reportes de incidentes relacionados con modelos de IA de alto rendimiento. Esta ley busca aumentar la transparencia y la responsabilidad en la industria de la IA, al mismo tiempo que aborda los riesgos potenciales que surgen de su uso.