Pillar Security ha desarrollado un marco de seguridad de IA que representa un importante avance en los esfuerzos de la industria para garantizar operaciones seguras para la inteligencia artificial. Este marco, conocido como Secure AI Lifecycle Framework (SAIL), aborda más de 70 riesgos y proporciona mitigaciones alineadas con otros marcos líderes.
IBM ha lanzado nuevas capacidades de software que integran la seguridad y gobernanza de la inteligencia artificial, marcando lo que afirma ser la primera solución unificada de la industria para gestionar los riesgos asociados con la IA. La solución permite a las empresas gestionar los riesgos de seguridad y gobernanza en diversos casos de uso de IA, apoyando el cumplimiento de 12 marcos regulatorios, incluido el Reglamento de IA de la UE.
IBM ha anunciado el primer software de la industria para unir los equipos de seguridad y gobernanza de inteligencia artificial, ofreciendo una visión unificada del estado de riesgo de las empresas. Las nuevas capacidades mejoran la integración de watsonx.governance y Guardium AI Security para ayudar a los clientes a mantener sus sistemas de IA, incluidos los agentes, seguros y responsables a gran escala.
Los copilotos de IA, como el de Microsoft, presentan nuevos riesgos de seguridad, privacidad y cumplimiento que pueden poner a las organizaciones en riesgo de violaciones de datos. Es crucial que las organizaciones implementen medidas de gobernanza y seguridad sólidas para proteger sus datos confidenciales y cumplir con las regulaciones.
Sin una gobernanza de seguridad estricta, la inteligencia artificial puede convertirse en un pasivo para las organizaciones. Las empresas deben equilibrar la innovación con la gestión de riesgos para garantizar el éxito a largo plazo.
Desde el lanzamiento del modelo de razonamiento de código abierto DeepSeek-R1 en enero de 2025, China ha priorizado el uso de la inteligencia artificial (IA) como motor clave para el crecimiento económico. La creación de la Asociación de Seguridad y Desarrollo de IA de China (CnAISDA) representa un punto crítico en la conversación sobre la seguridad de la IA en el país.
La legislación sobre la regulación de la seguridad de la IA, conocida como la Ley RAISE, ha sido aprobada en Nueva York, lo que ha generado descontento entre los capitalistas de riesgo. La ley exige que los desarrolladores de modelos de lenguaje grandes creen y publiquen protocolos de seguridad y evaluaciones de riesgos.
Nueva York está a punto de introducir una de las primeras leyes que regulará los modelos avanzados de inteligencia artificial en los Estados Unidos. La Ley de Seguridad y Educación de IA Responsable (RAISE) requerirá que los desarrolladores de IA, como OpenAI y Google, implementen estrictas medidas de seguridad antes de que sus modelos sean públicos.
Los Agentes Guardian están emergiendo como herramientas esenciales para monitorear y gestionar el comportamiento autónomo de la inteligencia artificial. Su adopción está creciendo en entornos empresariales, donde es crucial abordar riesgos como el secuestro de credenciales y asegurar una gobernanza sólida de la IA.
El Senado del Estado de Nueva York ha aprobado un proyecto de ley innovador sobre la seguridad de la inteligencia artificial, conocido como la Ley RAISE, promovido por el senador Andrew Gounardes. Esta legislación busca imponer salvaguardias críticas en el desarrollo y despliegue de tecnologías de IA para proteger a la sociedad de los riesgos asociados.