El Acta de IA de la UE es mucho más ‘consciente del riesgo’ que el Plan de Acción de IA de EE. UU.
En un reciente episodio del pódcast “Regulando la IA”, se discutieron las complejidades del Plan de Acción de IA de EE. UU. y sus implicaciones globales para la gobernanza de la IA, así como el delicado equilibrio entre innovación y regulación.
Pilares del Plan de Acción de IA de EE. UU.
El Plan de Acción de IA tiene tres pilares fundamentales:
- Innovación
- Infraestructura
- Diplomacia internacional
El primer pilar se centra en la innovación, buscando posicionar a EE. UU. como líder global en IA. Esto implica un énfasis en el desarrollo de infraestructuras, especialmente en el suministro de energía necesario para apoyar la IA.
Comparación con el Acta de IA de la UE
El Acta de IA de la UE, adoptada en 2024, impone obligaciones vinculantes para sistemas de alto riesgo, como la vigilancia biométrica y la IA en educación y empleo. Las sanciones por incumplimiento pueden llegar hasta el 7% de la facturación global de una empresa.
La falta de un marco regulatorio obligatorio en EE. UU. genera riesgos, alentando a las empresas a innovar sin las salvaguardias adecuadas. Esto complica el panorama legal y puede socavar leyes existentes contra la discriminación.
El dilema entre innovación y regulación
Un tema central en la discusión es el tensión entre innovación y regulación. Propuestas como una moratoria sobre la legislación de IA a nivel estatal pueden debilitar la capacidad de los estados para abordar desafíos locales únicos.
El equilibrio entre la innovación y la regulación en la adquisición de IA es crucial. Cuanto más irreversible sea el daño, más apropiado será regular. Por el contrario, si el daño es reversible, no debería haber necesidad de regulación.
El papel de la adquisición en la gobernanza de IA
La adquisición se presenta como una herramienta vital en este equilibrio. Desde definir niveles aceptables de errores de IA, como las alucinaciones, hasta aclarar la propiedad de datos en acuerdos interdepartamentales, las prácticas de adquisición ayudan a incorporar la gobernanza desde la base.
Sin embargo, los marcos de adquisición actuales a menudo son insuficientes. No solo deberían listar preguntas, sino también explicar su importancia y proporcionar referencias para evaluar las respuestas.
Diversidad en los equipos de adquisición
La diversidad en los equipos de adquisición es fundamental. Involucrar voces diversas asegura que las decisiones de adquisición consideren de manera efectiva las sensibilidades culturales y las implicaciones legales.
Riesgos y oportunidades en áreas emergentes
Con la experimentación de organizaciones en áreas emergentes como agentes de IA y datos sintéticos, la gobernanza y la responsabilidad siguen siendo inciertas. Es crucial que los datos sintéticos, especialmente en campos sensibles como la salud, sean rigurosamente limpiados y revisados para evitar resultados dañinos.
En conclusión, la efectividad de los procesos depende en gran medida de las personas involucradas, y las organizaciones deben asegurarse de que sus equipos comprendan los datos y procesos para lograr una IA responsable.
