La intención de las Naciones Unidas de regular la IA podría complicar el cumplimiento empresarial
Las Naciones Unidas han lanzado un llamado a los países para que acuerden lo que se denomina líneas rojas de la IA: límites que no deben cruzarse en cuanto a la inteligencia artificial, que se establecerán para finales de 2026 con el fin de prevenir los riesgos más severos para la humanidad y la estabilidad global.
En un comunicado de prensa emitido por la ONU, se afirma que «sin reglas internacionales vinculantes, la humanidad enfrenta riesgos crecientes que van desde pandemias diseñadas y desinformación a gran escala, hasta amenazas a la seguridad global, abusos sistemáticos de los derechos humanos y la pérdida de control humano sobre sistemas avanzados.»
Propuestas de prohibición
La ONU ha propuesto una amplia gama de posibles prohibiciones de IA, que incluyen:
- Prohibir su uso en comando y control nuclear.
- Prohibir armas autónomas letales.
- Prohibir la vigilancia masiva.
- Prohibir la suplantación humana mediante sistemas de IA que engañan a los usuarios haciéndoles creer que están interactuando con un humano.
- Prohibir el uso malicioso de ciberagentes que puedan interrumpir infraestructuras críticas.
Además, la ONU busca prohibir la replicación autónoma de sistemas de IA y el desarrollo de sistemas que no puedan ser detenidos si se pierde el control humano significativo sobre ellos.
Desafíos de implementación
A pesar de la intención detrás de la propuesta de la ONU, muchos analistas y observadores expresan preocupaciones sobre la viabilidad de tales restricciones globales. Las preguntas clave incluyen:
- ¿Apoyarán suficientes países la iniciativa?
- ¿Es suficiente el objetivo de implementación para finales de 2026?
- ¿Cómo se aplicarán y se harán cumplir estas reglas?
Las normas de IA que podrían afectar a las empresas podrían incluir límites en el uso de IA para seleccionar candidatos, tomar decisiones sobre préstamos o entrenar modelos con datos confidenciales de clientes. Las empresas tendrían que cumplir si operan en cualquier país que firme el acuerdo de la ONU. Sin embargo, estos países, como Alemania, Canadá, Suiza o Japón, probablemente tendrían sus propias reglas, lo que podría hacer que el mandato de la ONU sea irrelevante.
Opiniones sobre la propuesta de la ONU
Valence Howden, un experto en investigación, señala que aunque entiende y aplaude la intención detrás del esfuerzo de la ONU, se pregunta cuán viable será. «¿Cómo protegemos a las organizaciones dado que los riesgos no están atados a las fronteras del país?»
Howden también expresa preocupación por el objetivo de la ONU de implementar estas restricciones rápidamente, indicando que «la gobernanza y las protecciones se están moviendo a la velocidad de la burocracia.»
Por su parte, Brian Levine, exfiscal federal, espera que la medida de la ONU avance, pero advierte que los principios acordados serán tan generales que «no realmente moverán la aguja hacia adelante de manera significativa.»
Finalmente, se menciona que la ONU ha realizado esfuerzos similares en el pasado, como en el caso de intentar prohibir los robots asesinos autónomos, con escaso éxito.
En resumen, aunque la propuesta de la ONU para regular la inteligencia artificial busca abordar riesgos inminentes, la efectividad real de estas medidas sigue siendo incierta y podría no tener un impacto significativo en la práctica.
