¿Está Keir Starmer siendo asesorado por IA? El gobierno del Reino Unido no nos lo dirá
El primer ministro del Reino Unido, Keir Starmer, busca convertir al país en un líder mundial en inteligencia artificial. Sin embargo, la falta de transparencia en el uso de herramientas de IA por parte del gobierno ha generado preocupaciones sobre la precisión y la calidad de la información utilizada en la toma de decisiones gubernamentales.
Uso de un chatbot de inteligencia artificial
Se ha revelado que miles de funcionarios públicos, incluidos aquellos que trabajan directamente con el primer ministro, están utilizando un chatbot de IA propietario llamado Redbox para llevar a cabo su trabajo. Aunque se ha confirmado su uso, las autoridades se han negado a proporcionar detalles sobre cómo se utiliza y si el primer ministro está recibiendo asesoramiento basado en información generada por IA.
Después de obtener registros de uso de ChatGPT a través de la legislación de libertad de información, se solicitó a 20 departamentos gubernamentales que compartieran sus interacciones con Redbox. Este chatbot, impulsado por un modelo de lenguaje grande, permite a los usuarios interrogar documentos gubernamentales y generar borradores de informes. En las pruebas iniciales, un funcionario afirmó haber sintetizado 50 documentos en cuestión de segundos, en lugar de un día completo de trabajo.
Respuestas de los departamentos gubernamentales
Todos los departamentos contactados afirmaron no utilizar Redbox o se negaron a proporcionar los registros de interacción, catalogando las solicitudes como “vexatious”, un término oficial que indica que la solicitud podría causar un nivel desproporcionado de estrés o irritación.
Sin embargo, dos departamentos ofrecieron información sobre su uso de Redbox. La Oficina del Gabinete, que apoya al primer ministro, informó que 3000 personas en su departamento habían participado en un total de 30,000 chats con Redbox. Revisar estos chats para eliminar información sensible antes de liberarlos bajo la legislación de libertad de información llevaría más de un año de trabajo. El Departamento de Comercio y Comercio también se negó, afirmando que tenía “más de 13,000 prompts y respuestas” y que revisarlos para su liberación no sería factible.
Preocupaciones sobre la transparencia
Cuando se hicieron preguntas de seguimiento sobre el uso de Redbox, ambos departamentos remitieron a New Scientist al Departamento de Ciencia, Innovación y Tecnología (DSIT), que supervisa la herramienta. Este departamento se negó a responder preguntas específicas sobre si el primer ministro o otros ministros del gabinete están recibiendo asesoramiento basado en herramientas de IA.
Un portavoz del DSIT declaró: “Nadie debería pasar tiempo en algo que la IA puede hacer mejor y más rápido. Desarrollado en Whitehall, Redbox nos está ayudando a aprovechar el poder de la IA de manera segura y práctica, facilitando a los funcionarios resumir documentos, redactar agendas y más.”
Preocupaciones sobre la calidad de la información
Sin embargo, el uso de herramientas de IA generativa preocupa a algunos expertos. Los modelos de lenguaje grande tienen problemas bien documentados relacionados con el sesgo y la precisión, lo que complica la mitigación de estos problemas. Esto plantea dudas sobre si Redbox está proporcionando información de buena calidad.
“Mi problema aquí es que el gobierno debe servir al público, y parte de ese servicio es que nosotros -como contribuyentes y votantes- deberíamos tener acceso a cómo se toman las decisiones y cuáles son los procesos implicados en la toma de decisiones”, afirma un experto en ética de la IA.
La falta de registros en el Tesoro
La falta de transparencia también afecta a un tercer departamento gubernamental, el Tesoro. En respuesta a la solicitud de libertad de información, el Tesoro informó que su personal no tiene acceso a Redbox y que “las herramientas de GPT disponibles internamente dentro del Tesoro de Su Majestad no retienen el historial de prompts”. Esta respuesta sugiere que el Tesoro está utilizando herramientas de IA, pero no mantiene registros completos de su uso.
“Si no están reteniendo los prompts utilizados, es difícil obtener una idea de cómo replicar los procesos de toma de decisiones”, agrega el experto.
Conclusión
La falta de información sobre el uso de herramientas de IA en el gobierno del Reino Unido plantea serias preocupaciones sobre la transparencia y la rendición de cuentas en el proceso de toma de decisiones. A medida que la IA se convierte en una herramienta cada vez más común en la administración pública, es crucial establecer políticas que garanticen la calidad y la precisión de la información utilizada para guiar las decisiones gubernamentales.
