IBM Presenta un Software Unificado de Seguridad y Gobernanza de IA
IBM ha lanzado nuevas capacidades de software que integran seguridad y gobernanza de IA, marcando lo que la empresa afirma ser la primera solución unificada de la industria para gestionar los riesgos asociados con la IA autónoma.
Integración de Herramientas
Las mejoras combinan watsonx.governance, una plataforma integral de gobernanza de IA, con Guardium AI Security, una herramienta diseñada para proteger modelos de IA, datos y su uso. Esta solución integrada permite a las empresas gestionar los riesgos de seguridad y gobernanza en múltiples casos de uso de IA, apoyando el cumplimiento de 12 marcos, incluyendo el EU AI Act y la ISO 42001.
Declaraciones de Ejecutivos
La gerente general de Datos y AI de IBM, Ritika Gunnar, comentó: “Los agentes de IA están listos para revolucionar la productividad empresarial, pero los beneficios que aportan también pueden presentar desafíos. Cuando estos sistemas autónomos no están adecuadamente gobernados o asegurados, pueden acarrear consecuencias graves.”
Colaboración con AllTrue.ai
A través de una asociación con AllTrue.ai, Guardium AI Security ahora detecta casos de uso de IA en entornos en la nube, repositorios de código y sistemas embebidos, ofreciendo visibilidad en ecosistemas de IA descentralizados. Los casos de uso identificados pueden iniciar automáticamente flujos de trabajo de gobernanza a través de watsonx.governance.
Nuevas Actualizaciones de Guardium AI Security
Las actualizaciones recientes de Guardium AI Security incluyen red teaming automatizado para descubrir vulnerabilidades y malas configuraciones, así como políticas de seguridad personalizadas para abordar riesgos como la inyección de código y la filtración de datos. Estas características están disponibles actualmente, con una integración completa con watsonx.governance prevista para más adelante este año.
Importancia de la Seguridad en IA
Suja Viswesan, vicepresidenta de Productos de Seguridad y Runtime de IBM, afirmó: “El futuro de la IA depende de cuán bien la aseguremos hoy. Integrar la seguridad desde el principio es esencial para proteger datos, cumplir con obligaciones regulatorias y construir confianza duradera.”
Gestión del Ciclo de Vida de los Agentes de IA
Watsonx.governance ahora facilita la gestión del ciclo de vida de los agentes de IA, desde el desarrollo hasta la implementación, con nodos de evaluación que supervisan métricas como la relevancia de respuestas y la fidelidad del contexto para identificar problemas de rendimiento.
Capacidades Futuras
Las capacidades futuras, que se prevén para su lanzamiento antes del 27 de junio, incluyen evaluaciones de riesgo para la incorporación de agentes, registros de auditoría y un catálogo de herramientas para agentes. Los Aceleradores de Cumplimiento de watsonx.governance, disponibles como complemento, proporcionan regulaciones y estándares pre-cargados, permitiendo a los usuarios alinear los casos de uso de IA con requisitos de cumplimiento globales.
Nuevas Ofertas de Servicios de Ciberseguridad
IBM Consulting Cybersecurity Services está introduciendo nuevas ofertas que combinan plataformas como Guardium AI Security con experiencia en IA para apoyar a las organizaciones en una transformación segura de IA. Estos servicios abarcan la detección de vulnerabilidades, prácticas de diseño seguro y orientación regulatoria, basándose en el trabajo de IBM con clientes como Nationwide Building Society y e&.
Accesibilidad en AWS
Para los usuarios de AWS, watsonx.governance ahora es accesible en los centros de datos de AWS en India, presentando capacidades mejoradas de monitoreo de modelos.
Conclusión
La investigación de IDC sobre el Grupo de Seguridad y Confianza resalta que unificar la gobernanza de IA con la seguridad de IA proporciona a las organizaciones el contexto necesario para identificar y priorizar riesgos, así como la información para comunicar claramente las consecuencias de no abordarlos.
