A medida que los agentes impulsados por inteligencia artificial se integran más en las operaciones comerciales, las organizaciones enfrentan el desafío de determinar quién debe gestionarlos: ¿TI o Recursos Humanos? La gestión de la IA es una responsabilidad compartida que requiere un enfoque colaborativo entre estos departamentos para garantizar la eficiencia y el impacto ético en el lugar de trabajo.
El Departamento de Tecnología de la Información de Carolina del Norte (NCDIT) ha nombrado a I-Sah Hsieh como su primer ejecutivo de gobernanza y política de inteligencia artificial. Hsieh se encargará de avanzar en el uso de la inteligencia artificial en el estado, garantizando la seguridad digital y la ética en su implementación.
La gobernanza de la inteligencia artificial es un conjunto de procesos y políticas que garantiza que los sistemas de IA se utilicen de manera responsable y ética. Para las marcas y agencias, es crucial implementar una gobernanza adecuada para evitar sesgos y daños a la reputación.
Las empresas de diversos sectores están adoptando rápidamente agentes de inteligencia artificial (IA), sistemas generativos de IA que actúan de forma autónoma para realizar tareas. Sin embargo, estos agentes pueden elegir estrategias que estén «desalineadas», lo que plantea riesgos significativos, especialmente en escenarios donde interactúan con otros sistemas de IA.
Expertos indican que los Emiratos Árabes Unidos están presenciando una gobernanza de inteligencia artificial institucionalizada. Este avance refleja un enfoque proactivo hacia la regulación y el uso ético de la tecnología en el país.
Las grandes empresas tecnológicas, como Amazon, Meta y Uber, han expresado sus deseos para el Plan de Acción de IA de la Casa Blanca, que incluye unificación de regulaciones y más inversiones en infraestructura energética. A medida que se finaliza el plan, estas compañías buscan garantizar un crecimiento e innovación en el ámbito de la inteligencia artificial.
La Ley de IA de la UE ha entrado en vigor, con reglas para la IA generativa que se aplicarán a partir de agosto de 2025. Mientras tanto, el Reino Unido continúa con su enfoque basado en principios, sin la necesidad de nuevos marcos regulatorios a corto plazo.
La inteligencia artificial (IA) está transformando industrias y mejorando la toma de decisiones, pero su adopción presenta nuevos desafíos en cuanto a la gobernanza. Una plataforma de gobernanza de IA es esencial para que las empresas monitoreen el rendimiento de la IA, aseguren el cumplimiento y evalúen los riesgos mientras fomentan la innovación.
La inteligencia artificial (IA) tiene el potencial de revolucionar la gobernanza al mejorar la eficiencia y la transparencia en la toma de decisiones. Sin embargo, también plantea preocupaciones éticas que deben abordarse para garantizar su uso responsable en la administración pública.
La adopción de la inteligencia artificial está transformando las dinámicas entre los profesionales de la privacidad y los líderes de TI, lo que subraya la necesidad de una colaboración más estrecha entre ambos. Durante la Cumbre Global de Privacidad de IAPP, se destacó que las empresas deben fomentar un enfoque colaborativo para mitigar los riesgos asociados con la adopción de la IA.
