Piloto de la Evaluación de Impacto Ético (EIA) en América Latina
El auge de la inteligencia artificial (IA) en el sector público ha traído consigo una serie de preocupaciones éticas relacionadas con la transparencia, el sesgo, la equidad, la privacidad y la responsabilidad. En respuesta a estos desafíos, se ha desarrollado la Recomendación sobre la Ética de la Inteligencia Artificial, que fue adoptada en 2021 como el primer marco global para guiar el desarrollo y la implementación ética de la IA.
¿Qué es la Evaluación de Impacto Ético (EIA)?
La EIA es una herramienta práctica que permite a gobiernos, instituciones públicas y otras organizaciones evaluar las implicaciones éticas de los proyectos de IA antes y durante su desarrollo y despliegue. A través de la gobernanza proactiva, se busca asegurar que los sistemas de IA se alineen con valores éticos y derechos fundamentales.
Valores y Principios Éticos Clave
El marco de la EIA se estructura en torno a preguntas de alcance del proyecto y los principios éticos clave delineados en la Recomendación de la UNESCO, que incluyen:
- Seguridad y Protección
- Equidad, No Discriminación, Diversidad
- Sostenibilidad
- Privacidad y Protección de Datos
- Supervisión y Determinación Humana
- Transparencia y Explicabilidad; Responsabilidad y Rendición de Cuentas
- Conciencia y Alfabetización
Una Herramienta Dinámica y Evolutiva
La EIA está diseñada para ser una herramienta viva que se actualiza y refina continuamente en función de las experiencias prácticas y los desafíos éticos emergentes. UNESCO y GobLab UAI pilotaron esta herramienta en América Latina, trabajando con instituciones públicas y privadas para recopilar retroalimentación crítica.
Proyectos Piloto y Aprendizajes Clave
Entre los participantes del piloto se incluyeron:
- La Alcaldía de Bogotá, que aplicó la EIA a Chatico, una plataforma de servicios ciudadanos basada en IA, analizando su impacto en la privacidad, la transparencia y la gobernanza.
- Excelsis, una firma de consultoría tecnológica paraguaya, que probó la EIA en un chatbot de IA generativa, identificando desafíos relacionados con la interoperabilidad y la adopción en el sector empresarial.
- Cinco instituciones peruanas que evaluaron sistemas de IA en áreas como la educación, la certificación ambiental, la agricultura y la regulación energética.
Los proyectos piloto proporcionaron valiosas ideas sobre cómo la EIA puede seguir evolucionando para apoyar a las instituciones en el desarrollo responsable de IA. Los participantes expresaron entusiasmo por fortalecer sus enfoques institucionales hacia la gobernanza de la IA.
Recomendaciones para Mejorar la Usabilidad y Accesibilidad
Para asegurar que instituciones de todos los tamaños y niveles de recursos puedan aprovechar plenamente la EIA, se recomendó:
- La transición a una plataforma digital e interactiva.
- Un diseño modular que permita a las organizaciones personalizar la evaluación según sus necesidades específicas.
- Desarrollar una versión simplificada de la herramienta para facilitar el acceso a instituciones con experiencia limitada en IA.
Fortalecimiento de la Gobernanza y la Integración Institucional
Los participantes vieron la oportunidad de incorporar la EIA más profundamente en los procesos de gobernanza y cumplimiento, recomendando el desarrollo de programas de capacitación a medida y la creación de iniciativas de fortalecimiento de capacidades.
Implementación de Seguimiento de Impacto Medible
Para reforzar la responsabilidad y el monitoreo a largo plazo, se propuso incorporar indicadores cuantitativos dentro de la EIA. Un matriz de riesgos estructurada podría ayudar a evaluar consideraciones éticas en diferentes etapas de la implementación de IA.
Fomento de la Alfabetización en Ética de la IA
Una sólida base en alfabetización ética de la IA fue reconocida como esencial para el éxito de la EIA. Se destacó la necesidad de capacitación estructurada y materiales de aprendizaje accesibles para empoderar a los equipos con diversos niveles de experiencia.
A medida que la IA continúa moldeando la gobernanza pública y la infraestructura crítica, garantizar la supervisión ética y la responsabilidad es más importante que nunca. La EIA proporciona un enfoque estructurado para alinear las innovaciones de IA con valores fundamentales, apoyando a las instituciones en la búsqueda de un equilibrio entre el progreso tecnológico y la responsabilidad centrada en el ser humano.
