AI Governance: Derechos Humanos en la Balancia Ante la Convergencia de Gigantes Tecnológicos y Autoritarios
En la actualidad, la IA está redefiniendo las dinámicas de poder y control en todo el mundo. Desde algoritmos que determinan quién vive y quién muere en Gaza hasta sistemas de vigilancia que siguen a periodistas en Serbia, la tecnología está profundamente entrelazada con cuestiones de derechos humanos. La pregunta de quién controla esta tecnología y cómo se gobierna se ha convertido en una prioridad urgente.
Fallas de Gobernanza
Recientemente, la Asamblea General de la ONU adoptó una resolución para establecer mecanismos internacionales como un Panel Científico Internacional Independiente sobre IA y un Diálogo Global sobre la Gobernanza de la IA. Estas iniciativas, parte del Pacto Digital Global, son un primer paso hacia una regulación más fuerte, pero el proceso de negociación ha revelado profundas fracturas geopolíticas.
Por un lado, China promueve un enfoque dirigido por el estado que excluye a la sociedad civil, mientras que se posiciona como líder del Sur Global. Por otro lado, Estados Unidos, bajo la administración de Donald Trump, ha adoptado un enfoque de tecnonacionalismo, utilizando la IA como herramienta de ventaja económica y geopolítica. La Unión Europea, en contraste, está implementando la primera ley de IA integral del mundo, que entra en vigor en agosto de 2026, aunque presenta preocupantes lagunas.
Desafíos de la Legislación Europea
A pesar de sus avances, la ley de IA de la UE permite el uso limitado de tecnologías de reconocimiento facial en ciertas circunstancias, lo que ha generado críticas de grupos de derechos humanos. Las tecnologías de reconocimiento emocional están prohibidas en escuelas y lugares de trabajo, pero no para la aplicación de la ley, lo que plantea serias preocupaciones sobre sesgos raciales en los sistemas existentes.
Además, la coalición ProtectNotSurveil ha advertido que los migrantes y las minorías raciales en Europa están siendo utilizados como campos de pruebas para herramientas de vigilancia impulsadas por IA. La ley también exime a los sistemas utilizados para fines de seguridad nacional, lo que plantea interrogantes sobre la transparencia y el control.
Impacto Ambiental de la IA
El crecimiento de la IA también tiene un impacto ambiental significativo. Las interacciones con chatbots de IA consumen aproximadamente 10 veces más electricidad que las búsquedas estándar en Internet. La Agencia Internacional de Energía proyecta que el consumo eléctrico de los centros de datos se duplicará para 2030, impulsado principalmente por la IA.
Necesidad de Campeones en la Gobernanza de la IA
El marco actual de regulaciones regionales y resoluciones internacionales no vinculantes es insuficiente para gobernar una tecnología con implicaciones globales tan profundas. Es necesario que la comunidad internacional fortalezca los mecanismos de gobernanza de la IA, comenzando por acuerdos vinculantes sobre sistemas de armas autónomas letales que han estado estancados en discusiones de la ONU durante más de una década.
La Unión Europea debe cerrar las lagunas en su ley de IA, especialmente en lo que respecta a aplicaciones militares y tecnologías de vigilancia. Los gobiernos de todo el mundo deben establecer mecanismos de coordinación que puedan contrarrestar el control de los gigantes tecnológicos sobre el desarrollo y despliegue de la IA.
Finalmente, la sociedad civil no debe estar sola en esta lucha. La esperanza de un cambio hacia una gobernanza de IA centrada en los derechos humanos depende de que surjan campeones dentro del sistema internacional que prioricen los derechos humanos sobre los intereses nacionales y las ganancias corporativas. Con el desarrollo de la IA acelerándose rápidamente, no hay tiempo que perder.
