La Ley de IA y la Industria Automotriz – ¿Hacia dónde conduce el camino?
La Ley de IA no solo impulsa avances en tecnologías que hacen que la conducción automatizada y asistida sea más cómoda, segura y sostenible, sino que también introduce una serie de riesgos que podrían afectar los derechos y libertades de las personas, incluyendo preocupaciones significativas de seguridad cuando se aplica en la carretera.
La Ley de IA de la UE tiene como objetivo abordar estos riesgos. Si bien la ley establece regulaciones neutras para el uso de IA, los desarrollos futuros introducirán pautas específicas para la industria automotriz.
Este documento proporciona una visión inicial de este marco regulatorio emergente, delineando cómo los desarrolladores y usuarios de IA en el sector automotriz pueden necesitar adaptarse.
En resumen, la Ley de IA y las próximas regulaciones específicas para la industria automotriz establecerán nuevos requisitos de cumplimiento, marcando un cambio transformador en la supervisión de la IA en toda la industria.
¿Cuál es el marco legal actual para la IA en la industria automotriz?
Los vehículos autónomos y automatizados (AV) en la UE están sujetos a una variedad de marcos regulatorios. Algunos, como el Reglamento de Marco de Aprobación de Tipos (TAFR), se enfocan específicamente en los estándares automotrices, incluyendo la aprobación de vehículos y la vigilancia del mercado. Estos están respaldados por estándares internacionales, como los de la Comisión Económica para Europa de las Naciones Unidas (UNECE), que se integran en la legislación de la UE.
Bajo el TAFR, los vehículos deben completar un proceso de aprobación de tipo para garantizar el cumplimiento antes de ser comercializados. Regulaciones adicionales, como el Reglamento General de Seguridad de Productos (GPSR), abordan preocupaciones más amplias de seguridad de productos.
Juntas, estas regulaciones aseguran que los vehículos cumplan con estándares de seguridad, medioambientales y técnicos en toda la UE antes de su entrada en el mercado. Sin embargo, aunque cubren problemas de seguridad tradicionales, no abordan actualmente los riesgos específicos de la IA.
El uso de IA en la industria también está sujeto a normas que no son específicas para los AV, pero que pueden verse involucradas. Por ejemplo, cuando la IA procesa datos personales de vehículos conectados, se aplicará el RGPD y las leyes de derechos de autor, que regulan el uso de contenido protegido por derechos de autor sin abordar directamente la IA, también pueden ser relevantes.
En resumen, múltiples marcos legales existentes ya regulan el uso de IA en productos y servicios automotrices. Sin embargo, actualmente no hay una regulación exclusivamente enfocada en la IA. Esto está a punto de cambiar.
¿Qué regula la Ley de IA?
La Ley de IA de la UE entró en vigor el 1 de agosto de 2024 y se implementará durante un período de tres años. Introduce un enfoque basado en riesgos para regular la IA.
Los sistemas de IA que plantean riesgos inaceptables, como el scoring social o ciertos tipos de vigilancia en tiempo real, están prohibidos.
El Capítulo III aborda los sistemas de IA de alto riesgo (HRAI), que podrían tener efectos adversos graves si fallan. Estos sistemas deben cumplir con requisitos estrictos de seguridad de datos, transparencia, supervisión humana y robustez, y someterse a una evaluación de conformidad obligatoria antes de su entrada en el mercado, con monitoreo continuo a lo largo de su ciclo de vida.
Aplicaciones en infraestructuras críticas, como el suministro de energía, sistemas educativos, empleo y justicia, sirven como ejemplos clave.
Ciertos tipos de IA requieren medidas de transparencia incluso si no están designados como de alto riesgo; por ejemplo, los usuarios deben ser notificados al interactuar con un sistema de IA, como en chatbots u otras aplicaciones interactivas.
Los sistemas de IA que plantean riesgos muy bajos para las personas o la sociedad están gobernados por pautas generales y mejores prácticas, sin requisitos legales adicionales.
¿Cómo afecta esto el uso de IA en la industria automotriz?
La IA es cada vez más integral en productos y servicios de la industria automotriz. En sistemas autónomos y de asistencia al conductor, la IA mejora la inteligencia, la seguridad y la eficiencia del vehículo al analizar datos de diversos escenarios de conducción para tomar decisiones informadas, aprender de las condiciones de la carretera y monitorear la aptitud y alerta del conductor.
Además, la IA apoya funciones no relacionadas con la seguridad, como servicios de medios, acceso y pago dentro de los vehículos.
El papel de la IA en el control de la funcionalidad del vehículo puede impactar significativamente los derechos y libertades individuales. Las fallas del sistema podrían llevar a accidentes, daños a la propiedad o lesiones personales.
A primera vista, se espera que la mayoría de los sistemas autónomos y de asistencia impulsados por IA se clasifiquen como HRAI, dada la naturaleza crítica de la toma de decisiones en el vehículo (también conocida como ‘en la carretera’). Otras aplicaciones de IA, como funciones de entretenimiento o conveniencia, pueden caer bajo la clasificación de LRAI.
Para alinearse con los requisitos específicos de la industria y los estándares de seguridad armonizados de la UE, la Ley de IA clasifica ciertos sistemas de IA como HRAI si están regulados por otras legislaciones de armonización específicas (Artículo 2(2)), como el TAFR y el GPSR, que exigen evaluaciones de conformidad previas y aprobación.
Este enfoque garantiza que el uso de IA específica para la industria automotriz siga siendo regulado principalmente por la legislación sectorial, mientras que las disposiciones de HRAI en la Ley de IA servirán como estándares suplementarios, aunque abarcadores. La Ley de IA exige al legislador de la UE adaptar las leyes de armonización de la Unión para alinearlas con los estándares de HRAI en el TAFR y el GPSR (Artículo 80 ff). Estas reglas integrarán requisitos de HRAI adaptados a las necesidades automotrices, potencialmente incluyendo «sandbox regulatorios» para la innovación.
Los sistemas de IA no regulados que no están sujetos a tal legislación armonizada de la UE deben seguir siendo evaluados en función de las normas de la Ley de IA y someterse a evaluaciones de riesgo estándar.
¿Qué requisitos de cumplimiento para casos de uso de IA veremos en la industria automotriz?
Aunque los detalles específicos de las regulaciones revisadas relacionadas con la IA en el TAFR y el GPSR aún están pendientes, sin borradores disponibles, las disposiciones de HRAI y LRAI en la Ley de IA proporcionan una indicación temprana de las demandas regulatorias que enfrentará la industria.
Bajo la clasificación de alto riesgo de la Ley de IA, las empresas deben adoptar procedimientos extensos de documentación, monitoreo y mitigación de riesgos en el desarrollo de IA. Estos incluyen pruebas rigurosas para identificar y eliminar posibles sesgos, registros de transparencia para la trazabilidad de decisiones y una garantía de calidad integral a lo largo del ciclo de vida del vehículo.
Además, se necesitarán equipos dedicados, incluidos auditores externos, para realizar evaluaciones de riesgo y asegurar el cumplimiento continuo, haciendo que los requisitos de la Ley de IA sean técnicamente complejos, costosos y que requieran muchos recursos.
Si bien las actualizaciones específicas del sector que se avecinan pueden aclarar las obligaciones de cumplimiento para los interesados automotrices, es incierto hasta qué punto estas regulaciones se alinearán completamente con la Ley de IA de la UE, lo que podría afectar a toda la cadena de suministro.
Los fabricantes de automóviles no pueden implementar de inmediato los requisitos de la Ley de IA tal como están, pero pueden enfrentar nuevas obligaciones de cumplimiento vinculadas a los estándares revisados del TAFR a medida que estén disponibles. Equilibrar las demandas específicas del TAFR revisado para productos regulados con los requisitos generales de IA de la Ley de IA añadirá complejidad a la adhesión a la regulación de IA.
Los proveedores enfrentan un desafío similar. Al igual que los fabricantes, están presionados por el tiempo y, mientras esperan los detalles revisados del TAFR, deben preparar sus ofertas de IA para cumplir con los estándares anticipados específicos del sector bajo nuevas regulaciones en un futuro cercano.
¿Cuál es el impacto en las empresas no pertenecientes a la UE?
La Ley de IA se aplica ampliamente a los sistemas de IA introducidos o utilizados en la UE o EEE, incluidos los modelos de propósito general, independientemente de la ubicación del proveedor. Este alcance se extiende a operadores no pertenecientes a la UE/EEE cuyos resultados de IA, como predicciones o recomendaciones, se utilizan dentro de estas regiones.
Como resultado, las empresas no pertenecientes a la UE, como aquellas con sede en EE. UU., China, Corea del Sur o Japón, deben cumplir con la Ley de IA si comercializan sistemas de IA o utilizan resultados generados por IA en la UE.
Este alcance extraterritorial requiere que cualquier fabricante automotriz o proveedor de servicios que ingrese al mercado de la UE aborde los requisitos regulatorios superpuestos. Por ejemplo, una empresa con base en EE. UU. puede necesitar cumplir con los estrictos requisitos de IA de alto riesgo de la UE, mientras que también se adhiere a regulaciones diferentes o menos estrictas en su país de origen. Lo mismo se aplica, por ejemplo, a fabricantes chinos que ingresan al mercado de la UE con productos diseñados principalmente para cumplir con sus estándares nacionales.
Muchas empresas pueden optar por adoptar los altos estándares de la UE a nivel global, lo que podría llevar a una armonización gradual de los estándares de seguridad de IA en todo el mundo si otros mercados importantes se alinean con los principios de la UE. Si bien esto fomenta la consistencia regulatoria, también aumenta los costos y los plazos de desarrollo.
