John Snow Labs conquista a certificação de governança de IA do Pacífico, elevando o padrão para IA responsável na saúde
Esta certificação voluntária reforça o compromisso da empresa com a governança de IA de grau regulatório e a criação de sistemas de IA para a saúde que sejam seguros, imparciais e robustos.
Uma empresa de IA na saúde anunciou que obteve a certificação de governança de IA do Pacífico, validando seu compromisso de longa data em construir sistemas de IA responsáveis que são precisos, seguros, robustos, em conformidade e prontos para a implantação clínica no mundo real.
Compromisso com padrões rigorosos
A certificação confirma que a estrutura de governança de IA da empresa atende a requisitos rigorosos em áreas como gestão de risco de modelos, viés, robustez, segurança e conformidade regulatória. A política de governança do Pacífico é continuamente atualizada para alinhar-se aos padrões e regulamentos líderes, garantindo que a empresa esteja sempre em conformidade com as leis de IA emergentes.
O CEO da empresa afirmou que, quando afirmam entregar IA de grau regulatório, isso é uma promessa levada a sério. A certificação de governança de IA do Pacífico torna esse compromisso verificável e reproduzível de forma independente.
Importância da precisão e segurança
No setor de saúde, a precisão não é suficiente. Quando um modelo recomenda um tratamento ou determina a classificação de câncer, é crucial que ele responda bem a pequenas mudanças, se comporte adequadamente em casos extremos ou sob ataques intencionais, e não apresente viés entre grupos demográficos. Esses fatores são essenciais em cenários do mundo real.
A certificação requer que as organizações demonstrem governança que vai além de benchmarks de desempenho, incluindo robustez, mitigação de viés, segurança, auditabilidade, privacidade e prontidão regulatória.
Aplicações da certificação
A certificação se aplica a dois pilares principais da plataforma:
- Modelos de Linguagem de Grande Escala na Saúde: A empresa desenvolveu modelos de linguagem médica especializados em diferentes tamanhos e domínios clínicos, avaliando-os com conjuntos de testes padronizados que permitem comparação direta com fornecedores de modelos de linguagem de propósito geral.
- Des-identificação de Texto e Proteção de Dados Sensíveis: A tecnologia líder da empresa em des-identificação de texto foi avaliada em todas as dimensões de risco de IA, reforçando sua adequação para uso regulatório com dados clínicos sensíveis.
Conclusão
A certificação de governança de IA do Pacífico demonstra que a empresa está se comprometendo com os mesmos padrões que defende em todo o ecossistema de saúde e ciências da vida. Ter suítes de teste automatizadas abrangentes permite que os clientes reproduzam esses resultados e avaliem facilmente os modelos em seus próprios conjuntos de dados privados.
