UL Solutions lanza un nuevo estándar para llenar un vacío en la regulación de la IA: ‘La innovación sin seguridad es un fracaso’
Durante más de 120 años, una empresa de ciencias de la seguridad ha marcado la pauta en productos de consumo para garantizar que sean seguros. Recientemente, esta compañía emitió una nueva certificación para productos que incorporan inteligencia artificial (IA). Como se destacó, «la innovación sin seguridad es un fracaso».
La IA ha evolucionado rápidamente con poca supervisión, lo que ha generado confusión debido a la variedad de leyes estatales emergentes. Recientemente, un agente virtual autónomo ha captado la atención en el mercado, siendo mencionado en una conferencia importante como el futuro de la tecnología IA.
Estándares de seguridad en el sector privado
La pregunta que surge es si los estándares de seguridad en el sector privado pueden proporcionar las salvaguardias que aún no ha ofrecido la regulación gubernamental. El nuevo estándar, denominado UL 3115, evalúa si un producto habilitado para IA es seguro, robusto y bien gobernado, asegurando que siempre haya un «humano al mando» durante su ciclo de vida.
La experiencia de esta empresa radica en la seguridad funcional. A través de su Centro de Excelencia en IA, se han establecido protocolos de seguridad específicos para productos físicos que incorporan IA, comenzando con una investigación detallada sobre las preocupaciones de los clientes y los posibles desafíos.
Transparencia y sesgo en algoritmos
Los productos de IA deben considerar aspectos como la transparencia de los algoritmos, el sesgo potencial en estos, y la veracidad de los datos de entrenamiento. Es esencial garantizar que los datos incorrectos se eliminen de los modelos de aprendizaje y que existan procesos de supervisión humana para verificar la seguridad del producto.
Hasta el momento, dos productos han recibido la certificación de IA: un sistema de gestión de energía habilitado para IA y una solución para edificios inteligentes. Este avance es un paso hacia un equilibrio entre la velocidad de innovación y la seguridad necesaria en el mercado actual.
Conclusión
El lanzamiento de esta certificación para productos con IA representa un esfuerzo crucial para establecer estándares de seguridad en un campo que evoluciona rápidamente. Con la creciente integración de la IA en diversos sectores, es fundamental contar con regulaciones que aseguren la seguridad y funcionalidad de estos productos.
