La inteligencia artificial se ha vuelto común gracias a herramientas como ChatGPT, pero muchas empresas aún están en las primeras etapas de su adopción. Avivah Litan, de Gartner, advierte que el uso generalizado de la IA agente introduce riesgos significativos, como la compromisión de datos y salidas no deseadas.
En un paso histórico hacia el futuro ético de la inteligencia artificial (IA), el A4G Impact Collaborative lanzó el Simposio de Gobernanza y Ética de IA en la Universidad Tecnológica de Delhi, India. Este evento reunió a líderes globales en ética de IA, gobernanza y políticas para desarrollar marcos de gobernanza que aseguren que la IA sirva como una fuerza para el florecimiento colectivo.
El Fiscal General de Nueva Jersey y la División de Derechos Civiles anunciaron una Iniciativa de Derechos Civiles y Tecnología para abordar los riesgos de discriminación derivados del uso de inteligencia artificial en la contratación. La guía emitida aclara que la Ley Contra la Discriminación de Nueva Jersey se aplica a la «discriminación algorítmica» y proporciona ejemplos de cómo la IA puede causar discriminación en el proceso de contratación.
El uso de herramientas de inteligencia artificial públicas sin monitoreo puede amenazar la seguridad de los datos corporativos. Las organizaciones deben encontrar un equilibrio entre la innovación y la protección de la información confidencial.
La gobernanza de la inteligencia artificial (IA) debe centrarse en las amenazas novedosas en lugar de los riesgos familiares. Un cambio significativo en la gobernanza de la IA se ha producido debido a la democratización de las capacidades de desarrollo de bioweapons y la evolución de los sistemas de ciberseguridad impulsados por la IA.
A pesar de los esfuerzos del patrocinador y los interesados, una enmienda a la ley de inteligencia artificial de Colorado de 2024 fue pospuesta indefinidamente, lo que significa que las instituciones deben cumplir con la fecha límite del 1 de febrero de 2026. El gobernador Jared Polis expresó su preocupación por el impacto de esta ley en la innovación tecnológica y la competencia.
A medida que la adopción de la inteligencia artificial (IA) se vuelve cada vez más común en las operaciones comerciales, gestionar las regulaciones y los riesgos asociados se ha vuelto crucial. La necesidad de un enfoque simplificado para la gobernanza y el cumplimiento de la IA es cada vez más evidente, ya que las organizaciones luchan por mantenerse al día con la complejidad y el volumen de regulaciones.
La integración de la Inteligencia Artificial (IA) en el campo legal promete mejorar la eficiencia y el acceso a la justicia. Para lograr soluciones de IA precisas y responsables en el derecho, es indispensable combinar Modelos de Lenguaje Grande (LLMs), Modelos de Lenguaje Pequeño (SLMs) y técnicas de Procesamiento de Lenguaje Natural (NLP).
La inteligencia artificial está revolucionando la vigilancia de la comunicación al gestionar grandes volúmenes de datos y facilitar el cumplimiento normativo. Sin embargo, a pesar de su potencial, las empresas enfrentan desafíos en su implementación y deben equilibrar la eficacia con consideraciones éticas.
Casi el 80% de los profesionales de TI encuestados consideran que la gobernanza es «extremadamente importante», lo que resalta que, aunque las organizaciones están ansiosas por innovar, se enfocan aún más en hacerlo de manera responsable. Un 72% de los encuestados informaron que sus organizaciones están utilizando activamente sistemas de IA agentiva en la actualidad.
