Cuando la IA genera un resultado inesperado o incorrecto, a menudo no puede explicar el razonamiento detrás de él, ya que carece de uno. La gobernanza real comienza no cuando los sistemas detectan anomalías, sino cuando los humanos deciden qué significan esas anomalías, destacando la importancia de la supervisión humana para asegurar la responsabilidad ética.
El aumento de la inteligencia artificial (IA) en los negocios conlleva riesgos asociados, y en 2025, el 72% de las empresas que informan han divulgado riesgos relacionados con la IA. Los riesgos más comunes incluyen la reputación, la seguridad cibernética y el cumplimiento normativo, destacando la necesidad de que los líderes empresariales integren la IA en la gobernanza con rigor.
Chile está implementando una de las leyes de inteligencia artificial más estrictas del mundo, buscando regular la ética sin ahuyentar la innovación. La legislación clasifica los sistemas de IA en cuatro categorías según su riesgo potencial, prohibiendo tecnologías que socavan la dignidad humana.
El 26 de septiembre de 2025, la Comisión Europea publicó un borrador de directrices sobre la notificación de incidentes graves relacionados con la inteligencia artificial, exigiendo a los proveedores de sistemas de IA de alto riesgo que informen a las autoridades nacionales sobre dichos incidentes. Las empresas pueden enviar comentarios sobre el borrador hasta el 7 de noviembre de 2025, y se espera que la versión final entre en vigor el 2 de agosto de 2026.
Irlanda del Norte ha lanzado el primer Centro de IA Responsable (AICC), un recurso en línea diseñado para ayudar a empresas, responsables políticos e individuos a comprender y aplicar la inteligencia artificial de manera responsable. Este Hub ofrece herramientas y guías prácticas para fomentar una adopción ética y segura de la IA en diversas industrias.
La regulación no necesita ser un nuevo chivo expiatorio para la alfabetización en IA; lo que realmente necesitamos son líderes que entiendan las leyes existentes. A menudo, las decisiones se basan en narrativas impulsadas por el miedo en lugar de un entendimiento sólido de cómo funcionan los sistemas de IA y los riesgos que realmente representan.
La transformación económica impulsada por la inteligencia artificial ha comenzado a causar despidos masivos en empresas como IBM y Salesforce, lo que ha llevado a una creciente preocupación entre los trabajadores. A medida que la adopción de la IA se acelera, los gobiernos deben actuar rápidamente para implementar políticas efectivas que aborden el impacto en el empleo y protejan a los trabajadores.
La Comisión ha lanzado el AI Act Service Desk y la Single Information Platform, un centro central que proporciona orientación para ayudar a las empresas a navegar por las complejidades de la Ley de IA antes de su implementación completa en agosto de 2027. A pesar de los esfuerzos, críticos advierten que la Ley de IA genera incertidumbre sobre los datos que se pueden utilizar para entrenar modelos de IA, lo que podría afectar a las empresas en relación con las normas de protección de datos de la UE.
La falta de prácticas efectivas de gobernanza de la inteligencia artificial está poniendo a las organizaciones en riesgo serio. A medida que la IA se vuelve más potente, las empresas deben establecer políticas claras de gobernanza para maximizar sus beneficios sin exponerse a riesgos innecesarios.
El Sultanato de Omán lanzó una iniciativa para expandir el marco de Gobernanza Ética de IA integral y basado en derechos, que representa el primer documento estándar global para la implementación ética de la inteligencia artificial. El taller, organizado por el Ministerio de Educación en cooperación con la Oficina Regional de la UNESCO para los Estados del Golfo y Yemen, tiene como objetivo discutir la preparación de marcos regulatorios nacionales para el uso de sistemas de IA.