‘La brecha de confianza es real’: expertos aconsejan a las autoridades corregir el rumbo sobre la IA
Los parlamentarios federales están lidiando con cómo regular la inteligencia artificial (IA), sopesando su amenaza para los empleos en Canadá, la ciberseguridad y la soberanía de datos, junto con su promesa económica.
El Comité Permanente de Industria y Tecnología lanzó un estudio —a solicitud de un grupo político— para examinar cómo debería regularse la IA, considerando muchas cuestiones importantes.
Cuestiones a considerar
El rango de temas incluye: el desafío científico de garantizar que los modelos de IA sean honestos; la cuestión física y legal de la soberanía de datos; la cuestión política del multilateralismo en IA; y el debate inmediato sobre la creación de un comité dedicado a la IA para monitorear la tecnología en rápida evolución.
La sugerencia de crear un comité gubernamental de IA fue bien recibida por muchos expertos, pero la postura más consistente fue que el gobierno federal no realizó una consulta pública adecuada sobre la IA y necesita corregir el rumbo.
Un estudio reciente reveló que, aunque el 50% de los canadienses encuestados aprueba o acepta el uso de IA, casi el 80% está preocupado por posibles resultados negativos, y el 75% cree que es necesaria una regulación de la IA.
La necesidad de consultas genuinas
El informe «Lo que escuchamos», producido por el ministerio de IA, «se sintió más como ‘lo que queríamos que pensaran que escuchamos'», según un experto en derecho.
Se recomendó que el gobierno utilice asambleas ciudadanas para obtener retroalimentación de los canadienses, dado que ellos serán los más expuestos y posiblemente perjudicados por las decisiones del gobierno y la industria sobre la IA.
Se destacó que la IA no es solo otra ley y política que requiere la consulta estándar de interesados. «Es tan general y tan omnipresente que afectará todos los aspectos de nuestras vidas», afirmaron algunos expertos.
Soberanía de datos y leyes de privacidad
Se discutió mucho sobre la necesidad de asegurar la soberanía canadiense sobre sus propios datos. Crear leyes de privacidad sólidas fue presentado como la solución, no solo asegurar la propiedad y operación canadiense de las empresas.
Las empresas más pequeñas no tienen la seguridad y sofisticación necesarias para proporcionar estos servicios a la escala requerida, y una vez que las empresas son lo suficientemente grandes, ya tendrán conexiones con estados extranjeros y estarán sujetas a leyes foráneas.
Desafíos de la IA autónoma
La IA «agente» o autónoma recibió mucha atención en la reunión. Se explicó que las IA que están «actualmente en la frontera» no son confiables ni dignas de confianza.
Se enfatizó la necesidad de un «sano escepticismo», señalando patrones preocupantes en el uso de datos personales sin consentimiento para entrenar modelos de IA.
Conclusión y recomendaciones
El estudio sobre la regulación de la IA fue propuesto por un grupo político y ha escuchado a una docena de expertos en diversos campos. Se hizo un llamado a Canadá para ser líder en IA segura y competente, abogando por la creación de pautas de IA en colaboración con otras naciones que compartan preocupaciones y valores similares.
Es crucial que Canadá se mantenga en la mesa y no sea un mero espectador en el desarrollo de la IA, y que se entiendan cómo diseñar IA segura y confiable que no cruce nuestras líneas legales y morales.
