California ha promulgado nuevas leyes de seguridad y transparencia en inteligencia artificial, exigiendo a las empresas que informen sobre el uso de tecnologías de toma de decisiones automatizadas. Al mismo tiempo, el gobernador Newsom vetó la ley ‘No Robo Bosses Act’, que buscaba regular el uso de sistemas automatizados en el empleo.
La interacción con clientes impulsada por IA es ahora crucial para los negocios, pero un 4-7% de las conversaciones de IA contienen respuestas tóxicas o sesgadas que pueden dañar la confianza del cliente. Por lo tanto, es esencial implementar un marco de monitoreo de toxicidad y equidad en tiempo real para garantizar interacciones seguras y confiables.
Este blog examina 18 leyes relacionadas con la inteligencia artificial que California promulgó en 2024, de las cuales se exploran 8 en detalle en un blog complementario del CSET Emerging Technology Observatory. También se documenta la historia de California en la regulación de la IA y otras tecnologías emergentes.
Ekaterina Zaharieva, la primera comisionada de startups de la Unión Europea, enfrenta la tensión entre la rápida evolución de las startups y el lento proceso de elaboración de políticas. Defiende el Acta de IA, argumentando que proporciona un marco regulatorio necesario para fomentar la innovación en el sector europeo.
La Comisión Europea está considerando moderar sus leyes sobre inteligencia artificial, supuestamente bajo presión de empresas tecnológicas estadounidenses. Sin embargo, un portavoz de la Comisión afirmó que «los EE. UU. no decidirán nuestra agenda de simplificación» y que legislarán de manera independiente.
La Ley de Inteligencia Artificial de Colorado entrará en vigor el 1 de febrero de 2026 y regula los sistemas de IA de «alto riesgo» utilizados en la contratación, la vivienda, los préstamos y los seguros. Se insta a las empresas a prepararse ahora revisando sus acuerdos con proveedores y realizando auditorías anticipadas.
La próxima crisis de la inteligencia artificial podría no surgir de lo que hace, sino de lo que hace sin permiso. La gobernanza de la IA establece la estructura que hace que los ideales de IA responsable sean ejecutables, abordando el desafío de la implementación y asegurando que cada decisión importante reciba la aprobación documentada de un humano antes de su implementación.
A medida que la inteligencia artificial continúa su rápido ascenso, la integración ética y exitosa de esta tecnología depende de una gobernanza robusta y estrategias de datos resilientes. Las organizaciones que aceleran su adopción de IA se dan cuenta de que estos aspectos son pilares fundamentales que determinan su capacidad para innovar de manera responsable y mitigar riesgos profundos.
La Comisión Europea está considerando retrasar partes de su Ley de Inteligencia Artificial tras la presión de empresas tecnológicas de EE. UU. y del gobierno estadounidense. Este retraso podría proporcionar un período de gracia de un año a las empresas que utilizan IA de alto riesgo antes de que se apliquen sanciones.
La Ley de Inteligencia Artificial de la UE marca un nuevo era para la tecnología, alentando a los desarrolladores a crear IA con mayor intención y cuidado. Si los usuarios confían en que la IA se desarrolla de manera transparente, estarán más abiertos a utilizarla, contribuyendo así al éxito a largo plazo de la IA generativa.