Hermès formará un Comité de Gobernanza de Inteligencia Artificial en 2025 para supervisar el uso y desarrollo de la IA en la empresa. Este comité se encargará de gestionar la calidad de la tecnología y asegurar que se utilice de manera responsable y alineada con los valores de la compañía.
Los riesgos más inmediatos del uso de la inteligencia artificial no provienen solo de los modelos en sí, sino de cómo estos funcionan dentro de sistemas desalineados o poco preparados. Es crucial ampliar el enfoque de la gobernanza de la IA para incluir no solo modelos seguros, sino también ecosistemas de despliegue seguros.
Los líderes en gobernanza de IA deben ser financiados y empoderados para gestionar la responsabilidad de la inteligencia artificial dentro de las organizaciones. Es crucial implementar la IA de manera ética y ser intencionales sobre los resultados humanos, reconociendo que este desafío no es solo técnico, sino también socio-técnico.
La inteligencia artificial generativa (GenAI) está transformando las industrias al ofrecer capacidades que van desde la creación de texto similar al humano hasta la generación de imágenes y videos realistas. Sin embargo, a medida que las empresas adoptan cada vez más GenAI, la necesidad de medidas robustas de gobernanza y ciberseguridad se vuelve crítica.
La inteligencia artificial se ha vuelto común gracias a herramientas como ChatGPT, pero muchas empresas aún están en las primeras etapas de su adopción. Avivah Litan, de Gartner, advierte que el uso generalizado de la IA agente introduce riesgos significativos, como la compromisión de datos y salidas no deseadas.
En un paso histórico hacia el futuro ético de la inteligencia artificial (IA), el A4G Impact Collaborative lanzó el Simposio de Gobernanza y Ética de IA en la Universidad Tecnológica de Delhi, India. Este evento reunió a líderes globales en ética de IA, gobernanza y políticas para desarrollar marcos de gobernanza que aseguren que la IA sirva como una fuerza para el florecimiento colectivo.
El Fiscal General de Nueva Jersey y la División de Derechos Civiles anunciaron una Iniciativa de Derechos Civiles y Tecnología para abordar los riesgos de discriminación derivados del uso de inteligencia artificial en la contratación. La guía emitida aclara que la Ley Contra la Discriminación de Nueva Jersey se aplica a la «discriminación algorítmica» y proporciona ejemplos de cómo la IA puede causar discriminación en el proceso de contratación.
El uso de herramientas de inteligencia artificial públicas sin monitoreo puede amenazar la seguridad de los datos corporativos. Las organizaciones deben encontrar un equilibrio entre la innovación y la protección de la información confidencial.
La gobernanza de la inteligencia artificial (IA) debe centrarse en las amenazas novedosas en lugar de los riesgos familiares. Un cambio significativo en la gobernanza de la IA se ha producido debido a la democratización de las capacidades de desarrollo de bioweapons y la evolución de los sistemas de ciberseguridad impulsados por la IA.
El 29 de abril de 2025, el Congreso aprobó la Ley TAKE IT DOWN, que prohíbe la publicación de imágenes íntimas no consensuadas, incluidas las generadas por inteligencia artificial. Además, el presidente Trump firmó una Orden Ejecutiva para fomentar la educación en inteligencia artificial entre los jóvenes estadounidenses.
