OP-ED: Las reformas de adquisiciones de IA en Newfoundland y Labrador revelan un nuevo desafío de gobernanza
Un informe de consultoría preparado recientemente para el gobierno de Newfoundland y Labrador contenía citas que no existían, lo que ha suscitado interrogantes sobre cómo se pudo haber utilizado la inteligencia artificial en la investigación encargada por la provincia.
El gobierno ha respondido endureciendo las reglas de adquisición, exigiendo a los proveedores que divulguen si se utilizan herramientas de IA en la preparación de informes y permitiendo a los funcionarios auditar ese uso.
Un problema más profundo
Este episodio señala un problema más profundo. Los sistemas de adquisiciones públicas aún evalúan la experiencia utilizando señales de credibilidad diseñadas para un mundo anterior a la IA. La IA generativa introduce un nuevo modelo de producción de conocimiento en el que el juicio humano y la síntesis de máquinas operan cada vez más juntos.
Cuando los gobiernos encargan estudios importantes a empresas de consultoría, compran tanto asesoría estratégica como credibilidad institucional. La autoridad de un informe tradicionalmente se basa en señales visibles de rigor metodológico: revisiones de literatura, listas de referencias extensas, apéndices metodológicos y documentación detallada de fuentes. Estas señales permiten a los funcionarios públicos juzgar si las conclusiones de un informe se basan en una investigación seria en lugar de en especulaciones, y evaluar la credibilidad de la experiencia detrás de ellas.
Una vez que la síntesis asistida por IA entra en el flujo de trabajo de investigación, esas señales proporcionan solo una imagen parcial de cómo se produjo el análisis subyacente.
La participación de la IA generativa
Las herramientas de IA generativa participan cada vez más directamente en la producción de trabajos analíticos. Utilizadas con cuidado y bajo supervisión adecuada, estas herramientas pueden expandir la velocidad y el alcance de la investigación. Al mismo tiempo, alteran la visibilidad de cómo se lleva a cabo el análisis. Dos informes pueden parecer idénticos sobre el papel. Uno puede reflejar una verificación cuidadosa de fuentes y razonamiento humano. Otro puede depender en gran medida de la síntesis automatizada con supervisión limitada.
Los sistemas de adquisiciones diseñados para un mundo de investigación puramente humana luchan por distinguir entre esos procesos.
La importancia de la respuesta gubernamental
Por ello, la respuesta del gobierno de Newfoundland es crucial. La provincia ahora requiere que los proveedores que licitan para trabajos gubernamentales divulguen si se utilizarán herramientas de inteligencia artificial y permite al gobierno auditar ese uso en los contratos.
La reforma introduce transparencia en cómo se lleva a cabo la investigación cuando los fondos públicos apoyan el trabajo de consultoría, haciendo posible examinar los métodos analíticos detrás de los informes, incluso cuando herramientas asistidas por máquinas participan en el proceso.
En este sentido, las reformas de adquisiciones de la provincia representan una respuesta institucional temprana a un cambio más amplio en cómo se produce y evalúa la experiencia misma. Pocos gobiernos han comenzado a adaptar los mecanismos de supervisión a la realidad de que las herramientas de IA ya operan dentro del trabajo de investigación y asesoría en muchos sectores.
Implicaciones para el futuro
Los gobiernos en todo el país gastan miles de millones de dólares cada año encargando estudios de consultoría que influyen en decisiones sobre dotación de personal en salud, planificación de infraestructura, políticas regulatorias y desarrollo económico. Estos estudios a menudo se convierten en la base analítica para importantes decisiones de políticas públicas dentro del gobierno.
A medida que las herramientas de IA se vuelven cada vez más comunes en el trabajo de investigación y asesoría, los sistemas de adquisiciones en todo el país enfrentarán el mismo desafío que ha encontrado Newfoundland: evaluar no solo las conclusiones de un informe, sino el proceso a través del cual se produce la experiencia misma.
Una supervisión efectiva requerirá reglas de divulgación más claras, expectativas más fuertes para la verificación humana de fuentes y la capacidad de auditar cómo se produce el trabajo analítico. Estas medidas permiten que nuevas herramientas amplíen las capacidades de investigación mientras preservan la confianza en el asesoramiento experto que informa la política pública.
La reciente controversia en torno a un informe gubernamental en Newfoundland y Labrador puede resultar menos significativa por los errores que expuso que por las preguntas de gobernanza que planteó. La inteligencia artificial continúa integrándose en el trabajo de investigación y análisis en los sectores público y privado. Las instituciones públicas deben adaptar los mecanismos que utilizan para evaluar la experiencia dentro de este entorno en evolución.
Los cambios en las adquisiciones de Newfoundland sugieren que esta adaptación ya ha comenzado. Los sistemas de adquisiciones diseñados para el siglo XX deben adaptarse ahora para gobernar un nuevo modelo de experiencia en el que el juicio humano y la síntesis de máquinas operan cada vez más juntos.
