A medida que la inteligencia artificial (IA) transforma la atención médica, las organizaciones enfrentan oportunidades y riesgos sin precedentes. Sin marcos sólidos de gobernanza, gestión de riesgos y cumplimiento, estos avances pueden conducir a dilemas éticos y violaciones regulatorias.
Las empresas de servicios financieros están atrapadas entre regulaciones de IA que evolucionan rápidamente y varían drásticamente según la jurisdicción, lo que genera desafíos de cumplimiento que pueden sofocar la innovación. A medida que la IA entra en juego, el desafío no es solo seguir las reglas, sino mantenerse al día con la rapidez con la que están cambiando.
Las herramientas impulsadas por inteligencia artificial están proliferando en las empresas, lo que lleva a una creciente atención hacia la gobernanza de la IA. Sin embargo, las inversiones reales en gobernanza a menudo no coinciden con las inversiones en la tecnología de IA misma.
Un nuevo informe sugiere que las empresas norteamericanas son más reacias a integrar la inteligencia artificial (IA) en sus flujos de trabajo de cumplimiento en comparación con sus contrapartes en Europa, Oriente Medio y África (EMEA). Mientras que el 56.3% de los encuestados en América del Norte no tienen planes de incorporar IA en el próximo año, el 71.4% de los encuestados en EMEA planean hacerlo.
El secretario de Comercio, Howard Lutnick, anunció planes para reformar el Instituto de Seguridad de IA en un nuevo organismo llamado Centro para los Estándares e Innovación de IA. Este cambio refleja un deseo de desarrollo rápido de la tecnología, aunque el papel principal del organismo seguirá siendo evaluar las capacidades y vulnerabilidades de los sistemas de IA.
La Ley de Inteligencia Artificial de la Unión Europea (EU AI Act) está transformando rápidamente el panorama regulatorio para el desarrollo y despliegue de IA, tanto en Europa como a nivel global. Este enfoque por fases permite a las organizaciones adaptarse, pero también crea un entorno de cumplimiento complejo.
A medida que las empresas luchan por llevar los proyectos de Inteligencia Artificial Generativa (GenAI) de la experimentación a la producción, muchas siguen atascadas en la fase de piloto. La efectividad de GenAI depende de la calidad de los datos subyacentes, y actualmente, para la mayoría de las organizaciones, esos datos son inestables.
Nevada ha estado utilizando una nueva inteligencia artificial para preseleccionar reclamaciones de desempleo, lo que ha acelerado el proceso de aprobación en 30 veces. El director de información del estado, Timothy Galluzi, afirmó que la herramienta ha alcanzado un 99.99% de precisión, aunque dos analistas senior aún toman la decisión final sobre cada reclamación.
En el último año, ha surgido una nueva clase de herramientas de inteligencia artificial (IA) conocidas como agentes autónomos, marcando lo que se denomina la «era agentiva». Estos agentes presentan nuevas posibilidades en automatización, pero también intensifican problemas existentes relacionados con el sesgo, la propiedad intelectual y la transparencia.
El Reglamento de IA de la UE es el primer marco legal integral que rige específicamente la inteligencia artificial en el mundo. Busca fomentar la innovación y la inversión en tecnologías de IA, al tiempo que protege la salud, la seguridad y el medio ambiente de los riesgos potenciales que plantea la IA.