La economía digital de la ASEAN se proyecta alcanzar un valor cercano a los 1 billón de dólares estadounidenses para 2030, lo que presenta el desafío crítico de asegurar los vastos datos generados. A lo largo de los últimos cinco años, los países de la ASEAN han fortalecido la protección de datos, implementando marcos legales completos y promoviendo la gobernanza responsable de la inteligencia artificial.
La inteligencia artificial agentiva está impulsando implementaciones en atención al cliente y gestión de flujos de trabajo, mientras expone fallas en los procedimientos de cumplimiento del Reglamento General de Protección de Datos (GDPR) de la UE. Para abordar estos desafíos, es necesario pasar de controles estáticos a mecanismos en vivo que operen en tiempo real y garanticen el cumplimiento.
La integración de GenAI en los flujos de trabajo diarios representa un desafío directo para las responsabilidades de los Directores de Recursos Humanos (CHRO) en cuanto a políticas y cumplimiento. Un nuevo informe revela que más de un tercio de los profesionales australianos están subiendo regularmente datos sensibles de la empresa a plataformas de IA no autorizadas, lo que expone a las organizaciones a serios riesgos de filtración de datos y cumplimiento regulatorio.
No está claro si OpenAI está cumpliendo con los requisitos de divulgación de datos de entrenamiento de la Ley de IA para GPT-5, el modelo más nuevo que impulsa su popular chatbot. Sin embargo, la UE no comenzará a hacer cumplir la regla hasta el próximo año.
Este artículo presenta una lista de verificación para la gestión de riesgos y gobernanza de la inteligencia artificial en el contexto de la legislación de la UE. Incluye pasos clave como la identificación de riesgos, la gestión de datos, la transparencia, y la capacitación en IA responsable.
La gobernanza de datos ha evolucionado de ser una necesidad de cumplimiento a un pilar estratégico para las empresas impulsadas por la IA. Es esencial implementar marcos de gobernanza que operen en tiempo real y se adapten dinámicamente a los requisitos regulatorios y las necesidades comerciales.
La Comisión Europea anunció el viernes pasado que no habrá un retraso en la Ley de IA de la UE, lo que ha provocado reacciones encontradas. Aunque algunas partes de la Ley ya están en vigor, los plazos de cumplimiento más importantes están por venir.
La gobernanza de la inteligencia artificial y la gobernanza de datos son fundamentales para garantizar el desarrollo de soluciones de IA éticas y de alta calidad. Estos marcos de gobernanza son interdependientes y vitales para el éxito de las iniciativas impulsadas por IA en las organizaciones.
La Ley de IA de la UE clasifica la inteligencia artificial en tres categorías de riesgo: «inaceptable», «alto» y «bajo/mínimo». Los sistemas de IA que representan un riesgo inaceptable están prohibidos, mientras que los de alto riesgo están sujetos a requisitos más estrictos y deben garantizar la seguridad de las personas.
La Unión Europea implementó su Ley de IA el año pasado, lanzando pautas para garantizar el cumplimiento y equilibrar la innovación de la IA con la seguridad. Esta ley clasifica los modelos de inteligencia artificial en cuatro niveles de riesgo, donde aquellos considerados de riesgo inaceptable enfrentan una prohibición dentro de la UE.