Una Hoja de Ruta para la IA: Inteligente, Segura y Ética
El gobierno federal busca aumentar la productividad lanzando la inteligencia artificial (IA) “a gran escala”. Esto incluye la modernización del servicio público con herramientas de IA. En principio, esta iniciativa es bienvenida. Los modelos de IA predictiva podrían anticipar cambios en las tendencias de atención médica, mejorar las previsiones fiscales y ayudar a detectar el fraude fiscal, entre otras aplicaciones.
Las herramientas de procesamiento del lenguaje natural podrían permitir consultas más amplias sobre decisiones gubernamentales. Sin embargo, estas oportunidades vienen con una advertencia: sin un despliegue reflexivo y liderazgo capacitado en IA, corremos el riesgo de gastar fondos públicos persiguiendo herramientas novedosas a expensas de un progreso real.
La Complejidad de los Sistemas de IA
Los sistemas de IA no son herramientas de “configurar y olvidar”. Son sistemas complejos y dinámicos que plantean serias preocupaciones sobre privacidad, ética y responsabilidad. Requieren equipos de expertos diversos, desde auditores de algoritmos hasta asesores éticos, para funcionar correctamente.
La innovación en IA también avanza a una velocidad vertiginosa. Lo mismo ocurre con su gestión y gobernanza, surgiendo constantemente nuevas técnicas para la mitigación de sesgos y la protección de la privacidad. Si se lanzan demasiado rápido y sin suficiente experiencia interna, la adopción de IA puede presentar riesgos y los gobiernos podrían quedarse atrás respecto a los mismos sistemas que esperan controlar.
Construcción de Capacidades en el Gobierno
Si bien la creación de un hub centralizado de IA es un paso importante, es esencial construir capacidades en los departamentos gubernamentales. Muchos departamentos están fortaleciendo sus capacidades, pero el ritmo de desarrollo de IA y el nivel de supervisión necesarios representan un desafío para los equipos que intentan evaluar herramientas, gestionar riesgos o decidir dónde y cómo debe desplegarse la IA.
Esto no se trata de convertir a los departamentos en laboratorios tecnológicos. Se trata de asegurar que las decisiones sobre IA estén fundamentadas en el conocimiento y las realidades operativas.
Impacto Ambiental de la IA
No podemos ignorar la enorme huella de carbono de la IA. Un despliegue de IA en todo el gobierno sin considerar las emisiones podría socavar los compromisos climáticos de Canadá. El gobierno federal ha reconocido este desafío en su nueva Estrategia de Computación Soberana en IA, que se compromete a construir capacidades de computación controladas por Canadá y alimentadas por energía limpia. Este es un paso crítico, pero necesita seguimiento.
El impacto ambiental debe ser una restricción de diseño, no un pensamiento posterior. Esto significa favorecer modelos energéticamente eficientes, instalar infraestructura en áreas con abundante energía limpia y ser selectivo sobre cuándo y dónde se utiliza la IA.
Gobernanza y Transparencia en la IA
La credibilidad de los esfuerzos de modernización de la IA depende de asegurar que la productividad no se logre a expensas de los objetivos climáticos o de la soberanía digital. Cada despliegue de IA debe estar gobernado por una supervisión robusta y transparente. Un conjunto creciente de políticas, regulaciones e instituciones puede garantizar que los sistemas de IA utilizados en toda la economía sean transparentes, responsables y seguros.
Cuando se implementen herramientas de IA en el gobierno, debe aplicarse el mismo nivel de supervisión. Esto incluye explicar públicamente cómo funcionan los sistemas, los riesgos que presentan y cómo se monitorearán.
En Canadá, esta evaluación de riesgos previa es necesaria a través de lo que se conoce como una evaluación de impacto algorítmico, un requisito bajo la Directiva del Consejo del Tesoro sobre la Toma de Decisiones Automatizadas.
Transparencia y Confianza Pública
Sin embargo, la aplicación bajo un instrumento político, en lugar de legislativo, necesita mecanismos de rendición de cuentas. También necesita cuerpos independientes para poder investigar el incumplimiento como lo haría bajo un marco legislativo. En un momento en que la confianza en las instituciones públicas es baja, este nivel de transparencia no es una opción. Construir sobre estos primeros pasos es esencial para fortalecer la confianza pública y mejorar los sistemas.
Estos desafíos demuestran que, sin liderazgo en IA incorporado, los departamentos corren el riesgo de depender de soluciones estándar o de consultores. Esto puede ser costoso y no sostenible para herramientas de IA orientadas a políticas que requieren actualizaciones y adaptaciones regulares. Cada ministerio necesita liderazgo interno capaz de alinear las iniciativas de IA con los objetivos del departamento y evaluar dónde es apropiado, útil y seguro utilizar IA.
El Futuro de la IA en el Gobierno
Por eso, cada gran departamento gubernamental debería desarrollar la capacidad para gestionar la adopción de IA, por ejemplo, nombrando a un director de IA. Estos directores supervisarían el desarrollo, implementación y gobernanza de la IA y compartirían conocimientos para acelerar el aprendizaje, todo en coordinación con el hub centralizado de IA.
Este modelo de red de liderazgo en IA aseguraría que la experiencia en el tema informe las decisiones técnicas y permitiría al gobierno tomar decisiones más deliberadas sobre dónde el uso de la IA es apropiado.
La orgullosa historia de Canadá en investigación de IA refleja nuestra creatividad y rigor académico. Sin embargo, la excelencia en la investigación por sí sola no garantiza un despliegue seguro o efectivo de IA en el sector público. Las advertencias de algunos de nuestros más brillantes pioneros en IA atestiguan esa verdad.
El camino a seguir es claro: una modernización dirigida y deliberada que incorpore el conocimiento de IA, equilibre la innovación con principios éticos y democráticos y trate los impactos ambientales como restricciones de diseño centrales. Este enfoque permitiría al gobierno modernizarse de manera selectiva y estratégica y mejorar los servicios sin sacrificar la equidad, la responsabilidad o la sostenibilidad.
Cualquier cosa menos y corremos el riesgo de cambiar dólares de los contribuyentes por una serie de costosos experimentos cuyos beneficios pueden nunca materializarse o, peor aún, cuyos peligros se harán demasiado evidentes.
