Advertencia del organismo electoral sobre el riesgo de la IA en la campaña actual
Una nota interna preparada para el organismo electoral de Canadá clasifica el uso de inteligencia artificial (IA) como un riesgo alto para la campaña electoral en curso. Este documento fue elaborado para la Comisionada de Elecciones de Canadá, Caroline Simard, una funcionaria independiente del Parlamento encargada de hacer cumplir la Ley de Elecciones.
Preocupaciones sobre el uso de IA
La nota de información, fechada el 23 de febrero, señala que, aunque la IA puede ser utilizada para fines legítimos, existen riesgos asociados que podrían violar las normas electorales. Se indica que es probable que la próxima elección genere quejas relacionadas con el uso de herramientas de IA que podrían constituir una contravención de la Ley de Elecciones de Canadá.
Un portavoz de la oficina de Simard comentó que la ley no prohíbe específicamente el uso de inteligencia artificial, bots o deepfakes, aunque ciertas disposiciones podrían aplicarse si estas herramientas se usan de manera contraria a la ley.
Ejemplos de violaciones potenciales
Las violaciones pueden incluir la difusión de desinformación, la publicación de información falsa sobre el proceso electoral o la suplantación de un funcionario electoral. Michael Litchfield, director del laboratorio de riesgos y regulación de IA en la Universidad de Victoria, explicó que identificar a quienes utilizan la IA para infringir las normas electorales puede ser complicado.
El impacto de los deepfakes
La nota también destaca preocupaciones específicas sobre el uso de herramientas de IA y deepfakes, que son videos o audios falsificados hiperrealistas. A pesar de que no ha habido incidentes reportados en elecciones federales canadienses, se mencionan numerosos ejemplos de su uso en el extranjero, como uno relacionado con la vicepresidenta Kamala Harris durante las elecciones presidenciales de EE. UU. de 2024.
La regulación de la IA en Canadá
La nota señala que Canadá ha confiado en un enfoque de autorregulación cuando se trata de la IA, dejando gran parte de la responsabilidad en manos de la industria tecnológica. Sin embargo, se advierte que la efectividad de esta autorregulación es discutible.
El Proyecto de Ley C-27, que regularía algunos usos de la IA, fue introducido en la última sesión parlamentaria, pero no llegó a cumplir los plazos legislativos.
Riesgos de desinformación
El documento también advierte que el uso legítimo de la IA podría generar quejas durante la campaña electoral, incluso en casos donde no se hayan violado reglas. Se observa un aumento en la desconfianza hacia el contenido en línea, lo que dificulta la credibilidad de las fuentes de información.
La nota concluye que, aunque los actores malintencionados que buscan sembrar desinformación no seguirán las directrices gubernamentales, la IA podría amplificar estos riesgos, facilitando la creación de contenido que infrinja la ley.
