Por qué los vehículos autónomos no deben ser etiquetados como ‘IA de alto riesgo’
Aunque aún no han alcanzado el nivel de robotaxis completamente autónomos, los vehículos autónomos supervisados son ahora una vista común en las carreteras. Las empresas líderes en este sector están generando beneficios a partir de la venta de vehículos autónomos y adquiriendo grandes cantidades de datos de conducción sin costo adicional. Estos datos se utilizan para entrenar y mejorar la inteligencia artificial (IA) utilizada en estos vehículos.
El contexto del avance tecnológico
La posición de Corea como líder mundial en la densidad de robots industriales se basa en sus fortalezas en electrónica y automóviles. La industria automotriz está entrando en una fase en la que la IA y los robots construyen vehículos, mientras que los humanos los utilizan y pagan por el uso de la IA. Se ha redefinido el automóvil en la era de la IA como un software entregado como servicio.
La reciente legislación sobre IA en Corea ha establecido un precedente global al ser la primera en regular a los operadores de IA considerados de alto riesgo. Sin embargo, la Unión Europea ha pospuesto sus propias regulaciones de IA de alto riesgo, preocupada de que una respuesta regulatoria a la rápida evolución de la IA pueda dejar a la región rezagada en la competencia global.
Desafíos de la regulación de la IA
La legislación asigna responsabilidades a los proveedores de IA para gestionar riesgos altos y establece sanciones por violaciones. Sin embargo, existe inquietud sobre cómo determinar objetivamente qué constituye realmente una IA de alto riesgo. La definición de riesgo varía según el uso previsto de la IA en sectores específicos.
El surgimiento de sistemas de IA de propósito general ha complicado aún más la regulación, ya que sus usos no pueden definirse de antemano. Esto ha llevado a la UE a imponer obligaciones de transparencia y seguridad en las etapas de diseño del modelo, lo que ha desencadenado una fuerte oposición de otras naciones.
Implicaciones para los vehículos autónomos
Según la nueva ley de IA de Corea, los vehículos autónomos de nivel 4 que ya están en operaciones piloto, así como los robotaxis comercializados en el extranjero, se clasificarían como de alto riesgo. Sin embargo, al etiquetar a los vehículos autónomos de esta manera, se corre el riesgo de socavar la competitividad nacional en comparación con otras tecnologías consideradas innovadoras, como los robots humanoides.
Para competir eficazmente, es necesario repensar qué constituye realmente una IA de alto riesgo y cómo deben regularse estos riesgos. Una alternativa podría ser adoptar un sistema similar al del Reino Unido, donde las compañías de seguros compensan a las víctimas primero y luego ejercen derechos de recurso. Esto reduciría la carga de responsabilidad inmediata sobre los fabricantes de automóviles.
En conclusión, es esencial que se establezcan políticas que apoyen activamente el desarrollo de aplicaciones de IA de alto riesgo en lugar de desalentarlas mediante regulaciones prematuras.
