La Falta de Transparencia en la IA y sus Consecuencias para Europa
En los últimos tiempos, ha habido un cambio significativo en la postura de Bruselas respecto a la regulación de la tecnología. La Unión Europea (UE) ha decidido simplificar sus normas para atraer a empresas tecnológicas, lo que podría poner en peligro los principios fundamentales de transparencia y responsabilidad.
El Peligro de la Simplificación Reguladora
La simplificación de las regulaciones no debe confundirse con una deregulación que comprometa la transparencia. Las nuevas normas de transparencia para la IA y los datos, bajo la Ley de IA de la UE, son esenciales para garantizar la responsabilidad de las empresas tecnológicas. Sin embargo, existe un riesgo real de que la UE ceda a la presión de la industria y suavice los requisitos establecidos para los modelos de IA de propósito general (GPAI).
Los desarrolladores de modelos GPAI, que incluyen potentes sistemas como GPT de OpenAI y Gemini de Google, están obligados a presentar un resumen público “suficientemente detallado” de los datos utilizados para entrenar sus modelos. Esta medida podría significar un gran avance en la transparencia, pero si se relaja el nivel de detalle, esta iniciativa se convertirá en un mero trámite sin valor real.
¿Quién Teme la Transparencia?
Desde una perspectiva de derechos fundamentales, la transparencia no debe ser considerada un «extra» opcional. Permite el ejercicio de derechos, sostiene la responsabilidad de las empresas tecnológicas e informa el debate público. Sin una mejor transparencia, la gobernanza de la IA se vuelve insostenible.
Además, la transparencia robusta no es un obstáculo para la innovación. De hecho, promueve la difusión de la innovación y fomenta la competencia de manera más sostenible. La historia del software de código abierto demuestra que la apertura, y no el secreto, es lo que impulsa los avances tecnológicos.
Un enfoque basado en el secreto favorece a las empresas consolidadas y retrasa el progreso tecnológico. La verdadera motivación detrás de la resistencia a la transparencia podría ser la intención de evitar el escrutinio público y la responsabilidad legal por posibles infracciones de derechos de autor o protección de datos.
Argumentos en Contra de la Transparencia: Un Enfoque Erróneo
Los desarrolladores de IA han ofrecido poca claridad sobre qué información específica debe considerarse como secreto comercial. Además, basar una estrategia de competitividad en el secreto comercial está mal orientado. Este enfoque puede desincentivar el uso de conjuntos de datos diversos y de alta calidad, lo que resulta en aplicaciones de IA sesgadas o perjudiciales.
Los argumentos de seguridad en contra de la transparencia también han carecido de especificidad. Sin una explicación clara de qué información podría introducir vulnerabilidades, es difícil tomar en serio estas preocupaciones.
Conclusiones y Recomendaciones
El impulso actual de la UE hacia una regulación simplificada no debe ser una excusa para socavar los principios acordados en un proceso democrático. La necesidad de simplificar las reglas no debe comprometer los valores fundamentales de la UE, que incluyen la transparencia y la innovación tecnológica socialmente beneficiosa y ambientalmente sostenible.
En lugar de permitir que intereses selectos de la industria diluyan la transparencia, la UE debe considerarla como una herramienta para fomentar un mercado digital abierto y competitivo que beneficie tanto a las empresas como al interés público. No hay necesidad de sacrificar la transparencia por la competitividad; si acaso, el verdadero riesgo radica en que, en su prisa por simplificar, la UE termine debilitando las normas para aquellos que ya están un paso adelante.
