La Brecha de Gobernanza: Por Qué la Regulación de la IA Siempre Queda Atrás
La innovación evoluciona a la velocidad de las máquinas, mientras que la gobernanza se mueve a la velocidad humana. A medida que la adopción de la IA crece exponencialmente, la regulación se queda atrás, lo cual es típico en el ámbito tecnológico. Gobiernos y otras entidades de todo el mundo están luchando por regular la IA, pero abundan los enfoques fragmentados y desiguales.
La naturaleza de la brecha: Innovación primero, supervisión después
El retraso regulatorio es un subproducto inevitable del progreso tecnológico. Por ejemplo, Henry Ford no desarrolló el Model T con un enfoque primario en la seguridad vial y las reglas de tráfico. Los patrones regulatorios históricamente siguen a la innovación; ejemplos recientes incluyen la privacidad de datos, blockchain y redes sociales. La rápida evolución de la IA supera la formación y aplicación de políticas. En otras palabras, el carro ha ido delante del caballo durante un tiempo.
Parte del desafío es que los responsables de la política a menudo reaccionan al daño en lugar de anticipar el riesgo, lo que crea ciclos de gobernanza reactiva. El problema no es el retraso en sí, sino la falta de mecanismos adaptativos para mantenerse al día con los nuevos modelos de amenaza y la falta de voluntad para comprometer una ventaja competitiva en pro de la seguridad. Es un escenario de «carrera hacia abajo»; estamos erosionando nuestra propia seguridad colectiva en favor de ganancias locales.
Un mosaico global de gobernanza de IA que representa filosofías fragmentadas
Los enfoques de gobernanza de IA existentes en el mundo varían enormemente. En la UE, la Ley de IA introducida el año pasado es muy ética y basada en riesgos. El uso de la IA se evalúa según el nivel de riesgo, con algunos considerados inaceptables y, por lo tanto, prohibidos. Por el contrario, EE. UU. ha adoptado un modelo de «regulatory sandbox» que enfatiza la flexibilidad de innovación. Algunos podrían describirlo como un espacio reservado para la innovación, mientras que los críticos podrían llamarlo un cheque en blanco.
También existe el proceso de Hiroshima, que contiene la intención de coordinación global pero con un seguimiento limitado; cada nación del G7 sigue enfocándose en la dominación interna de la IA.
En EE. UU., el asunto se ha dejado en gran medida a los estados, lo que efectivamente asegura una falta de regulación efectiva. El gobierno federal a veces lo hace precisamente debido a lo ineficaz que puede ser. Los estados están creando nuevos «sandboxes» para atraer empresas tecnológicas e inversión, pero es poco probable que haya alguna regulación significativa a nivel estatal; solo excepciones concedidas.
El Reino Unido ha estado en una lucha interna e internacional para establecerse como ferozmente independiente tras el Brexit. A través de la desregulación y el esquema «Leveling Up» del gobierno, la introducción de «regulatory sandboxes» no es una sorpresa. El gobierno del Reino Unido querrá que el país sea una superpotencia dominante en IA por ventajas políticas internas y externas.
La UE se centra más en la seguridad del consumidor, pero también en la fortaleza de su mercado compartido. Esto tiene sentido, dado el historial de la UE con regulaciones fragmentadas. La conformidad compartida, las normas y el comercio transfronterizo son clave para hacer de la UE lo que es. Aún requieren «regulatory sandboxes», pero también que cada estado miembro tenga uno operativo para la misma fecha.
Estos son solo algunos de los marcos regulatorios más prominentes. El punto clave es que hay marcos disjuntos que carecen de definiciones compartidas, mecanismos de aplicación e interoperabilidad transfronteriza. Esto deja brechas que los atacantes pueden explotar.
La naturaleza política de los protocolos
Ninguna regulación de IA puede ser verdaderamente neutral; cada elección de diseño, salvaguarda y regulación refleja intereses gubernamentales o corporativos subyacentes. La regulación de la IA se ha convertido en una herramienta geopolítica; las naciones la utilizan para asegurar ventajas económicas o estratégicas. Los controles de exportación de chips son un ejemplo actual; sirven como gobernanza indirecta de la IA.
La única regulación efectivamente introducida hasta ahora ha sido para obstaculizar intencionalmente un mercado. La carrera global por la supremacía en IA mantiene la gobernanza como un mecanismo de competencia en lugar de una seguridad colaborativa.
Seguridad sin fronteras, pero gobernanza con ellas
El principal problema espinoso aquí es que las amenazas habilitadas por IA trascienden fronteras mientras que la regulación sigue confinada. Las amenazas que evolucionan rápidamente hoy incluyen tanto ataques a sistemas de IA como ataques que utilizan sistemas de IA. Estas amenazas cruzan jurisdicciones, pero la regulación sigue siendo fragmentada. La seguridad se queda recluida en un rincón mientras que las amenazas cruzan toda la internet.
Ya estamos empezando a ver el abuso de herramientas legítimas de IA por actores globales de amenazas que explotan controles de seguridad débiles. Por ejemplo, se ha observado actividad maliciosa con el uso de herramientas de creación de sitios de IA que son más como clónicos de sitios y pueden ser fácilmente abusadas para crear infraestructura de phishing. Estas herramientas se han utilizado para impersonar páginas de inicio de sesión para todo, desde servicios populares de redes sociales hasta agencias nacionales de policía.
Hasta que los marcos de gobernanza reflejen la estructura sin fronteras de la IA, los defensores seguirán restringidos por leyes fragmentadas.
De la regulación reactiva a la defensa proactiva
El retraso regulatorio es inevitable, pero la estancación no lo es. Necesitamos una gobernanza adaptativa y predictiva con marcos que evolucionen con la tecnología; se trata de pasar de la regulación reactiva a la defensa proactiva. Idealmente, esto debería parecerse a:
- Desarrollo de estándares internacionales compartidos para la clasificación de riesgos de IA.
- Participación ampliada en la fijación de estándares más allá de los principales gobiernos y corporaciones. La gobernanza en internet ha buscado (con éxito desigual) utilizar un modelo de múltiples partes interesadas en lugar de uno multilateral. Aunque imperfecto, ha tenido un gran impacto en hacer de internet una herramienta para todos y minimizar la censura y los apagones políticos.
- Fomentar la diversidad de pensamiento en la gobernanza.
- Un mecanismo para la notificación de incidentes y la transparencia. La falta de regulaciones a menudo significa también una falta de requisitos de notificación. Es poco probable que haya un requisito para informar al público sobre daños causados por errores o elecciones de diseño dentro de los «regulatory sandboxes» en el futuro cercano.
Aunque la brecha de gobernanza nunca desaparecerá, los marcos colaborativos, transparentes e inclusivos pueden evitar que se convierta en una vulnerabilidad permanente en la seguridad global.
