La revolución de la inteligencia artificial ya no es una promesa distante, está aquí y está remodelando industrias y la vida diaria. La clave para garantizar que el poder de la IA se utilice de manera responsable radica en una colaboración interindustrial y una alineación regulatoria que permita mitigar riesgos y capitalizar oportunidades de crecimiento.
La reciente decisión del Secretario de Comercio, Howard Lutnick, de renombrar el Instituto de Seguridad de IA de EE. UU. como el Centro para Estándares e Innovación de IA refleja un cambio profundo en las prioridades nacionales hacia el desarrollo de la IA. Este cambio plantea preguntas críticas sobre quién define los «estándares» y qué valores los moldean.
Pillar Security ha desarrollado un marco de seguridad de IA que representa un importante avance en los esfuerzos de la industria para garantizar operaciones seguras para la inteligencia artificial. Este marco, conocido como Secure AI Lifecycle Framework (SAIL), aborda más de 70 riesgos y proporciona mitigaciones alineadas con otros marcos líderes.
IBM ha lanzado nuevas capacidades de software que integran la seguridad y gobernanza de la inteligencia artificial, marcando lo que afirma ser la primera solución unificada de la industria para gestionar los riesgos asociados con la IA. La solución permite a las empresas gestionar los riesgos de seguridad y gobernanza en diversos casos de uso de IA, apoyando el cumplimiento de 12 marcos regulatorios, incluido el Reglamento de IA de la UE.
IBM ha anunciado el primer software de la industria para unir los equipos de seguridad y gobernanza de inteligencia artificial, ofreciendo una visión unificada del estado de riesgo de las empresas. Las nuevas capacidades mejoran la integración de watsonx.governance y Guardium AI Security para ayudar a los clientes a mantener sus sistemas de IA, incluidos los agentes, seguros y responsables a gran escala.
Los copilotos de IA, como el de Microsoft, presentan nuevos riesgos de seguridad, privacidad y cumplimiento que pueden poner a las organizaciones en riesgo de violaciones de datos. Es crucial que las organizaciones implementen medidas de gobernanza y seguridad sólidas para proteger sus datos confidenciales y cumplir con las regulaciones.
Sin una gobernanza de seguridad estricta, la inteligencia artificial puede convertirse en un pasivo para las organizaciones. Las empresas deben equilibrar la innovación con la gestión de riesgos para garantizar el éxito a largo plazo.
Desde el lanzamiento del modelo de razonamiento de código abierto DeepSeek-R1 en enero de 2025, China ha priorizado el uso de la inteligencia artificial (IA) como motor clave para el crecimiento económico. La creación de la Asociación de Seguridad y Desarrollo de IA de China (CnAISDA) representa un punto crítico en la conversación sobre la seguridad de la IA en el país.
La legislación sobre la regulación de la seguridad de la IA, conocida como la Ley RAISE, ha sido aprobada en Nueva York, lo que ha generado descontento entre los capitalistas de riesgo. La ley exige que los desarrolladores de modelos de lenguaje grandes creen y publiquen protocolos de seguridad y evaluaciones de riesgos.
Nueva York está a punto de introducir una de las primeras leyes que regulará los modelos avanzados de inteligencia artificial en los Estados Unidos. La Ley de Seguridad y Educación de IA Responsable (RAISE) requerirá que los desarrolladores de IA, como OpenAI y Google, implementen estrictas medidas de seguridad antes de que sus modelos sean públicos.