UL Solutions lança um novo padrão para preencher uma lacuna na regulamentação de IA
Nos últimos 120 anos, uma empresa de segurança científica tem se destacado na marcação de produtos, garantindo que eles não apresentem riscos aos consumidores. Recentemente, essa empresa emitiu uma nova certificação para produtos com IA embutida. A CEO da empresa enfatizou que “inovação sem segurança é fracasso”.
Com a rápida evolução da tecnologia, a falta de supervisão adequada gerou preocupações. Um novo agente virtual autônomo, que se tornou popular, foi mencionado em uma conferência de desenvolvedores, destacando a necessidade de normas de segurança no setor privado para tecnologias que podem ter consequências significativas.
O novo padrão UL 3115
O padrão UL 3115 avalia se um produto habilitado para IA é seguro, robusto e bem administrado, garantindo que um “humano esteja no controle” ao longo do ciclo de vida do produto. A demanda por padrões de segurança é crescente, mesmo na ausência de regulamentação governamental, pois os clientes buscam garantias sobre a segurança dos produtos que estão levando ao mercado.
Segurança funcional e protocolos de IA
A experiência da empresa está na segurança funcional, considerando a importância de testar softwares embutidos em produtos. Os novos padrões abordam questões como transparência dos algoritmos, preconceitos presentes nos dados de treinamento e a supervisão humana necessária para garantir a segurança dos produtos, especialmente aqueles voltados para crianças.
Até agora, dois produtos receberam a certificação de IA: um sistema de gerenciamento de energia e uma solução para edifícios inteligentes. Isso representa um passo importante em um mundo onde líderes buscam equilibrar velocidade com segurança.
Conclusão
A implementação de novos padrões de segurança para produtos com IA embutida é crucial para garantir que a inovação tecnológica não comprometa a segurança dos consumidores. Com a crescente demanda por produtos seguros e bem regulados, esses padrões podem ajudar a preencher a lacuna deixada pela regulamentação governamental.
