Los agentes de inteligencia artificial ya no son solo herramientas; son trabajadores digitales autónomos que interactúan con sistemas críticos y identidades en entornos empresariales. Este artículo proporciona un marco para que los CISO aseguren estos agentes y gestionen identidades no humanas, abordando los riesgos y las estrategias de control necesarias.
La rápida integración de la inteligencia artificial en los entornos empresariales ha dado lugar a un fenómeno preocupante conocido como «shadow AI», que se refiere al uso no autorizado de herramientas de IA por parte de empleados sin la supervisión de los departamentos de TI. Según un reciente informe de Komprise, el 90% de los líderes de TI expresan preocupación por la infiltración de shadow AI en sus sistemas, lo que puede resultar en pérdidas financieras y violaciones de cumplimiento.
La revolución de la inteligencia artificial ya no es una promesa distante, está aquí y está remodelando industrias y la vida diaria. La clave para garantizar que el poder de la IA se utilice de manera responsable radica en una colaboración interindustrial y una alineación regulatoria que permita mitigar riesgos y capitalizar oportunidades de crecimiento.
La reciente decisión del Secretario de Comercio, Howard Lutnick, de renombrar el Instituto de Seguridad de IA de EE. UU. como el Centro para Estándares e Innovación de IA refleja un cambio profundo en las prioridades nacionales hacia el desarrollo de la IA. Este cambio plantea preguntas críticas sobre quién define los «estándares» y qué valores los moldean.
Pillar Security ha desarrollado un marco de seguridad de IA que representa un importante avance en los esfuerzos de la industria para garantizar operaciones seguras para la inteligencia artificial. Este marco, conocido como Secure AI Lifecycle Framework (SAIL), aborda más de 70 riesgos y proporciona mitigaciones alineadas con otros marcos líderes.
IBM ha lanzado nuevas capacidades de software que integran la seguridad y gobernanza de la inteligencia artificial, marcando lo que afirma ser la primera solución unificada de la industria para gestionar los riesgos asociados con la IA. La solución permite a las empresas gestionar los riesgos de seguridad y gobernanza en diversos casos de uso de IA, apoyando el cumplimiento de 12 marcos regulatorios, incluido el Reglamento de IA de la UE.
IBM ha anunciado el primer software de la industria para unir los equipos de seguridad y gobernanza de inteligencia artificial, ofreciendo una visión unificada del estado de riesgo de las empresas. Las nuevas capacidades mejoran la integración de watsonx.governance y Guardium AI Security para ayudar a los clientes a mantener sus sistemas de IA, incluidos los agentes, seguros y responsables a gran escala.
Los copilotos de IA, como el de Microsoft, presentan nuevos riesgos de seguridad, privacidad y cumplimiento que pueden poner a las organizaciones en riesgo de violaciones de datos. Es crucial que las organizaciones implementen medidas de gobernanza y seguridad sólidas para proteger sus datos confidenciales y cumplir con las regulaciones.
Sin una gobernanza de seguridad estricta, la inteligencia artificial puede convertirse en un pasivo para las organizaciones. Las empresas deben equilibrar la innovación con la gestión de riesgos para garantizar el éxito a largo plazo.
Desde el lanzamiento del modelo de razonamiento de código abierto DeepSeek-R1 en enero de 2025, China ha priorizado el uso de la inteligencia artificial (IA) como motor clave para el crecimiento económico. La creación de la Asociación de Seguridad y Desarrollo de IA de China (CnAISDA) representa un punto crítico en la conversación sobre la seguridad de la IA en el país.