La gestión y gobernanza de datos son clave para el éxito de las iniciativas de inteligencia artificial, según expertos de InfoVerge. En una serie de seminarios web, se discutieron los pasos necesarios para construir una base sólida de datos que permita escalar la inteligencia artificial de manera efectiva.
Los funcionarios de EE. UU. rechazaron un esfuerzo por establecer un marco de gobernanza global de inteligencia artificial en la Asamblea General de las Naciones Unidas, a pesar del amplio apoyo de muchas naciones del mundo, incluida China. El director de la Oficina de Ciencia y Tecnología de EE. UU., Michael Kratsios, afirmó que Washington “rechaza totalmente” los esfuerzos de organizaciones internacionales para “afirmar el control centralizado y la gobernanza global de la IA”.
En un mundo de inteligencia artificial en rápida evolución, las empresas están adoptando cada vez más sistemas de IA agentiva, programas autónomos que pueden tomar decisiones y ejecutar tareas sin supervisión humana constante. Sin embargo, la proliferación de estas tecnologías está dando lugar a un nuevo desafío: la expansión descontrolada de la IA agentiva, lo que podría provocar vulnerabilidades de seguridad y problemas de cumplimiento.
El mundo en expansión de la inteligencia artificial (IA) se encuentra en un momento crítico, ya que una ola de acciones regulatorias y precedentes legales subraya un cambio global hacia la responsabilidad y el despliegue ético. Estos desarrollos indican un giro inmediato y profundo en el paisaje para las empresas tecnológicas y los mercados financieros.
A medida que la adopción de la inteligencia artificial generativa se acelera, también lo hacen los riesgos asociados. Las herramientas de gobernanza de IA ofrecen una forma de gestionar estos riesgos, y en colaboración con Tokio Marine Group, hemos diseñado un proceso de evaluación estructurado para identificar las soluciones más efectivas.
Las Naciones Unidas están impulsando la influencia global sobre la política de inteligencia artificial, enfocándose en estándares técnicos y de políticas para una IA «segura, confiable y protegida». La creación de un nuevo panel de expertos busca desarrollar normas científicas y técnicas, promoviendo la cooperación internacional y la discusión abierta sobre la gobernanza de la IA.
El 26 de septiembre de 2025, la Comisión Europea publicó una guía draft sobre los requisitos de informes de incidentes graves para sistemas de IA de alto riesgo bajo la Ley de IA de la UE. Las organizaciones deberán reportar «incidentes graves» a las autoridades nacionales en plazos que varían de dos a quince días, dependiendo de la gravedad del incidente.
La Oficina del Comisionado de Privacidad de Datos Personales de Hong Kong ha emitido nuevas pautas sobre la adopción de inteligencia artificial (IA) que animan a las organizaciones a desarrollar políticas internas para abordar los riesgos únicos que presenta la IA. Se recomienda que las organizaciones aborden áreas clave como el uso permitido, la protección de la privacidad de los datos personales y la prevención de sesgos en sus políticas de IA.
La seguridad de la IA generativa requiere una sólida gobernanza desde la alta dirección para mitigar riesgos como violaciones de datos y fallas de cumplimiento. Las mejores prácticas incluyen la supervisión continua de las herramientas de IA, la aplicación de controles de acceso y la adaptación de políticas según los riesgos emergentes.
En septiembre de 2024, Atlassian se unió a más de 100 líderes de la industria como signatarios iniciales del Pacto de IA de la UE, comprometiéndose a prácticas responsables de IA. Un año después, la empresa comparte su informe sobre el progreso de sus compromisos y las lecciones aprendidas en la implementación de estos principios.