La adopción de IA por parte de los fabricantes supera la ciberseguridad, el cumplimiento y la gobernanza de riesgos
Un nuevo informe revela que los fabricantes lideran en el control operativo de IA, pero siguen estando poco preparados para ataques de IA adversariales, auditorías regulatorias y fallos de IA de terceros en las cadenas de suministro globales.
Hallazgos clave
Controles operativos de IA son sólidos, pero limitados. La mayoría de los fabricantes mantienen supervisión humana y monitoreo en tiempo real de los sistemas de IA, reflejando un profundo compromiso con la disponibilidad, la seguridad y la fiabilidad de la producción.
Las pruebas de IA adversarial son un gran punto ciego. Solo el 7% de los fabricantes realizan pruebas adversariales, dejando a los sistemas de IA vulnerables a ciberataques intencionados.
La preparación para el cumplimiento se queda atrás en la implementación de IA. El uso limitado de evaluaciones de impacto de privacidad y evidencia de auditoría podría exponer a los fabricantes a acciones regulatorias a medida que se expanden los requisitos de gobernanza de IA globalmente.
El riesgo de IA de terceros está surgiendo como una amenaza sistémica en la cadena de suministro. Los fallos de IA en proveedores, socios logísticos o vendedores de tecnología son cada vez más probables de interrumpir las operaciones de fabricación sin una clara responsabilidad o gobernanza.
Análisis de la situación actual
El informe señala que, aunque los fabricantes destacan en controles operativos de IA, su capacidad para gobernar los riesgos cibernéticos asociados a la IA es insuficiente. Un análisis muestra que el 63% de los fabricantes informan sobre la supervisión humana de los sistemas de IA y el 56% monitorean los flujos de datos de IA, reflejando un enfoque en la seguridad y la fiabilidad operativa.
Sin embargo, la falta de pruebas adversariales incrementa la superficie de ataque. La mayoría de los fabricantes no realizan las pruebas necesarias para detectar vulnerabilidades en sus sistemas de IA.
Implicaciones y riesgos
La falta de documentación y auditoría adecuada puede dejar a los fabricantes expuestos a acciones regulatorias. Solo el 15% de las organizaciones manufactureras realizan evaluaciones de impacto de privacidad, y solo el 19% mantiene auditorías de calidad. Sin estos controles, es probable que tengan dificultades para demostrar cumplimiento con las regulaciones emergentes sobre IA.
Adicionalmente, el riesgo asociado a la IA de terceros es un problema creciente. Los sistemas de IA utilizados por proveedores y socios logísticos suelen carecer de la gobernanza necesaria, lo que aumenta la probabilidad de fallos que pueden interrumpir la producción.
Conclusión
Se recomienda que los fabricantes extiendan sus disciplinas de seguridad y calidad a la gobernanza de IA. Esto incluye implementar programas de pruebas adversariales, fortalecer la documentación de cumplimiento y desarrollar modelos de gobernanza específicos para la IA. Al hacerlo, los fabricantes no solo protegerán sus operaciones, sino que también se adaptarán a un entorno cada vez más complejo y regulado.
