Gobernanza de la IA: Derechos Humanos en la Balanza ante la Convergencia de Gigantes Tecnológicos y Autoritarios
BRUSELAS — Los algoritmos deciden quién vive y quién muere en la Franja de Gaza. La vigilancia impulsada por inteligencia artificial (IA) rastrea a periodistas en Serbia. Las armas autónomas desfilan por las calles de Pekín en exhibiciones de poder tecnológico. Esta no es ficción distópica; es la realidad actual. A medida que la IA transforma el mundo, la pregunta de quién controla esta tecnología y cómo se gobierna se ha convertido en una prioridad urgente.
Fallos en la Gobernanza
La IA se extiende a sistemas de vigilancia que pueden rastrear a los manifestantes, campañas de desinformación que pueden desestabilizar democracias y aplicaciones militares que deshumanizan el conflicto al eliminar la agencia humana de decisiones de vida o muerte. Esto se ve facilitado por la ausencia de salvaguardias adecuadas.
El mes pasado, la Asamblea General de las Naciones Unidas adoptó una resolución para establecer los primeros mecanismos internacionales —un Panel Científico Internacional Independiente sobre IA y un Diálogo Global sobre Gobernanza de IA— destinados a gobernar la tecnología, acordados como parte del Pacto Digital Global en la Cumbre del Futuro en septiembre. Esta resolución no vinculante marcó un primer paso positivo hacia una posible regulación más fuerte. Sin embargo, su proceso de negociación reveló profundas fracturas geopolíticas.
A través de su Iniciativa Global de Gobernanza de IA, China promueve un enfoque liderado por el estado que excluye por completo a la sociedad civil de las discusiones de gobernanza, posicionándose como líder del sur global. Enmarca el desarrollo de la IA como una herramienta para el avance económico y objetivos sociales, presentando esta visión como una alternativa a la dominación tecnológica occidental.
Mientras tanto, Estados Unidos bajo Donald Trump ha adoptado el tecnonacionalismo, tratando la IA como una herramienta para el apalancamiento económico y geopolítico. Decisiones recientes, incluyendo un arancel del 100% sobre los chips de IA importados y la compra de una participación del 10% en el fabricante de chips Intel, señalan un retroceso de la cooperación multilateral en favor de acuerdos bilaterales transaccionales.
La Unión Europea ha adoptado un enfoque diferente, implementando la primera Ley de IA integral del mundo, que entrará en vigor en agosto de 2026. Su marco regulatorio basado en riesgos representa un avance, prohibiendo los sistemas de IA considerados como «inaceptables» y requiriendo medidas de transparencia para otros. Sin embargo, la legislación contiene preocupantes vacíos.
Mientras que inicialmente se propuso prohibir incondicionalmente la tecnología de reconocimiento facial en vivo, la versión final de la Ley de IA permite su uso limitado con salvaguardias que los grupos de derechos humanos argumentan son inadecuadas. Además, mientras que las tecnologías de reconocimiento emocional están prohibidas en escuelas y lugares de trabajo, permanecen permitidas para la aplicación de la ley y el control de inmigración, una decisión particularmente preocupante dado el sesgo racial documentado de los sistemas existentes. La coalición ProtectNotSurveil ha advertido que los migrantes y las minorías raciales de Europa están sirviendo como bancos de pruebas para herramientas de vigilancia y rastreo impulsadas por IA. Lo más crítico es que la Ley de IA exime a los sistemas utilizados para fines de seguridad nacional y a los drones autónomos utilizados en la guerra.
Impactos Ambientales y Climáticos
Los crecientes impactos climáticos y ambientales del desarrollo de la IA añaden otra capa de urgencia a las preguntas de gobernanza. Las interacciones con chatbots de IA consumen aproximadamente 10 veces más electricidad que las búsquedas estándar en internet. La Agencia Internacional de Energía proyecta que el consumo de electricidad de los centros de datos globales se duplicará para 2030, siendo la IA el principal motor de este aumento. Las emisiones de Microsoft han crecido un 29% desde 2020 debido a la infraestructura relacionada con la IA, mientras que Google eliminó silenciosamente su promesa de emisiones netas cero de su sitio web a medida que las operaciones de IA aumentaron su huella de carbono en un 48% entre 2019 y 2023. La expansión de la IA está impulsando la construcción de nuevas plantas de energía a gas y retrasando los planes para desmantelar instalaciones de carbón, en directa contradicción con la necesidad de poner fin al uso de combustibles fósiles para limitar el aumento de la temperatura global.
Necesidad de Cambios en la Gobernanza
El actual mosaico de regulaciones regionales, resoluciones internacionales no vinculantes y una autogobernanza laxas de la industria queda muy por debajo de lo necesario para gobernar una tecnología con implicaciones globales tan profundas. El interés propio del estado continúa prevaleciendo sobre las necesidades humanas colectivas y los derechos universales, mientras que las empresas que poseen sistemas de IA acumulan un inmenso poder en gran medida sin control.
El camino a seguir requiere un reconocimiento de que la gobernanza de la IA no es meramente un problema técnico o económico —se trata de distribución de poder y responsabilidad. Cualquier marco regulatorio que no enfrente la concentración de capacidades de IA en manos de unos pocos gigantes tecnológicos inevitablemente fracasará. Los enfoques que excluyen las voces de la sociedad civil o priorizan la ventaja competitiva nacional sobre la protección de los derechos humanos demostrarán ser inadecuados para el desafío.
La comunidad internacional debe fortalecer urgentemente los mecanismos de gobernanza de la IA, comenzando con acuerdos vinculantes sobre sistemas de armas autónomas letales que han estado estancados en discusiones de la ONU durante más de una década. La UE debe cerrar los vacíos en su Ley de IA, particularmente en lo que respecta a aplicaciones militares y tecnologías de vigilancia. Los gobiernos de todo el mundo necesitan establecer mecanismos de coordinación que puedan contrarrestar efectivamente el control de los gigantes tecnológicos sobre el desarrollo y la implementación de la IA.
La sociedad civil no debe estar sola en esta lucha. Cualquier esperanza de un cambio hacia una gobernanza de IA centrada en los derechos humanos depende de que surjan campeones dentro del sistema internacional que prioricen los derechos humanos sobre intereses nacionales definidos de manera estrecha y ganancias corporativas. Con el desarrollo de la IA acelerándose rápidamente, no hay tiempo que perder.
