Cómo los CIO pueden prepararse para la aplicación de la Ley de IA de la UE
La cuenta atrás para la aplicación total de la Ley de Inteligencia Artificial (IA) de la Unión Europea sigue su curso. Las primeras normas de la ley, que incluyen prohibiciones sobre casos de uso inaceptables y obligaciones de alfabetización en IA, comenzaron a aplicarse el mes pasado.
La Ley de IA de la UE entrará en vigor para la mayoría de las organizaciones el próximo agosto, con la aplicación comenzando el año siguiente. La mayoría de las empresas ya están detrás de la curva, según los expertos.
“El estado de preparación no es bueno”, afirmó un analista de Gartner. “Todavía están tratando de averiguarlo”. Los CIO y líderes tecnológicos tienen un papel vital en la guía de cumplimiento de sus organizaciones, desde el seguimiento de requisitos en evolución hasta la gestión de proveedores y la evaluación de riesgos.
Las empresas no compliant enfrentan multas de hasta 37.9 millones de dólares (35 millones de euros), dependiendo de la gravedad y duración de la infracción. Proporcionar información incompleta o engañosa a los encargados de la aplicación conlleva una sanción de hasta 8.1 millones de dólares (7.5 millones de euros). Las normas se aplican a las empresas que operan y sirven a clientes en la UE, independientemente de dónde tengan su sede.
“El cumplimiento a menudo se ve como una molestia”, dijo un experto. Las organizaciones que se centran en marcar casillas probablemente enfrentarán problemas. “Puede mantener a raya al regulador, pero no funciona completamente en la práctica”.
Dónde comenzar
La mayoría de las disposiciones de la ley no se activarán completamente durante más de un año, pero las organizaciones no deben adoptar un enfoque de esperar y ver, advierten los expertos.
“El Reglamento General de Protección de Datos (GDPR) entró en vigor todo de una vez”, explicó un analista. “El inconveniente es que la mayoría de las organizaciones solo comenzaron a prestar atención en los últimos tres meses… se convirtió en una carrera loca para intentar poner algo en marcha”.
Los CIO pueden ayudar a sus organizaciones a encaminarse hacia la aplicación de la Ley de IA de la UE si los esfuerzos aún no están en marcha. “Si comienzas ahora, no diría que estás demasiado tarde, pero ya tienes que acelerar un poco el proceso”, aconsejó un experto.
Se recomienda a las organizaciones que comiencen por:
- Catalogar los usos de IA
- Organizar un equipo de cumplimiento
- Crear una iniciativa de alfabetización en IA
Identificar cada instancia de IA es el primer paso para saber si el uso de una empresa se encuentra en la lista de prohibiciones de la UE. “Este es el punto de partida para muchas grandes organizaciones”.
La IA se implementa comúnmente en toda una empresa, lo que obliga a los líderes tecnológicos a conectarse con las partes interesadas de diferentes departamentos para obtener una visión precisa. La necesidad de colaboración ha llevado a las organizaciones a crear equipos multidisciplinarios para garantizar la responsabilidad compartida.
“La principal discusión que he tenido con todos mis clientes, ya sean grandes, empresas financieras, tecnológicas o más pequeñas, fue quién debería estar en la mesa”, añadió un experto. Los grupos pueden incluir departamentos legales, CISOs, profesionales técnicos y jefes de datos.
Los grupos de vigilancia de cumplimiento interno pueden ayudar a descomponer los silos y facilitar el progreso hacia otros objetivos de la Ley de IA, como tener una iniciativa de alfabetización en IA. La UE creó un repositorio vivo de cómo las organizaciones están abordando la provisión de alfabetización el mes pasado.
Gestión de proveedores
A medida que las empresas trabajan en sus planes de cumplimiento, el contacto con los proveedores es clave. Más empresas desarrollaron herramientas de IA generativa internamente el año pasado que el anterior, pero la mayoría del uso de IA aún proviene de proveedores.
“Si hace dos años un proveedor no tenía capacidades de IA en su producto, ahora las tiene y muchas más”, advirtió un analista. “Es un problema, porque cada vez que agregan una función, es otro elemento que las empresas deben rastrear”.
Los CIO ya han expresado preocupaciones sobre el lavado de IA y el hype de IA liderado por proveedores. Ahora tienen otra razón para estar alerta ante la abundancia de nuevas características: la complejidad del cumplimiento.
“No se puede solo evaluar un producto, hay que evaluar las características individuales en un producto”, subrayó el analista. “No puedes hacer eso sin el apoyo del proveedor. Muy pocos proveedores han proporcionado listas con todos los sistemas de IA en sus productos”.
Las empresas también deben pensar dos veces sobre la configuración de actualizaciones. Las brechas de cumplimiento pueden surgir si los proveedores activan automáticamente características de IA sin aprobación.
Asegurarse de que los proveedores tengan características desactivadas por defecto es crítico. Los CIO deben resistir a los proveedores que intentan disuadirlos.
“Muchos proveedores se subieron al tren del hype y lanzaron docenas de características que no son muy valiosas”, afirmó un analista. La regulación de IA, y en particular la Ley de IA, podría “reducir mucha de la basura de IA que existe”.
Mantenerse al día
Una vez que las empresas estén en camino, el enfoque se centra en mantenerse al día. Los expertos recomiendan que las organizaciones creen un cronograma interno de hitos clave y establezcan un sistema para rastrear otros desarrollos regulatorios.
Algunos proveedores y organizaciones se están posicionando para ayudar a las empresas a ponerse al día y mantenerse al día. En enero, se lanzó una herramienta de evaluación de la Ley de IA de la UE. Investigadores de la Universidad de Oxford crearon una plataforma para realizar evaluaciones de conformidad de los sistemas de IA de acuerdo con la Ley de IA de la UE. PwC también tiene una herramienta de cumplimiento de la Ley de IA de la UE.
“No es una actividad única”, concluyó un experto. “Necesitas monitorear, mantenerte actualizado y asegurarte de tener un proceso en marcha”. Mantener el cumplimiento de las reglas de IA no será nada fácil, lo que enfatiza la necesidad de responsabilidad y gobernanza.
Mientras que EE.UU. promueve un enfoque de deregulación de la IA a nivel federal, los estados están interviniendo para llenar los vacíos, lo que lleva a un mosaico de reglas en constante evolución. Las empresas que priorizan el cumplimiento y la transparencia probablemente se encontrarán en una mejor posición que aquellas que se quedan atrás.
“Si tienes procesos adecuados para manejar tus datos y responsabilidades claras, entonces tienes gran parte de la base ya hecha para cualquier regulación o reglas que lleguen a tu geografía”, concluyó un experto.
