La revolución de la inteligencia artificial ya no es una promesa distante, está aquí y está remodelando industrias y la vida diaria. La clave para garantizar que el poder de la IA se utilice de manera responsable radica en una colaboración interindustrial y una alineación regulatoria que permita mitigar riesgos y capitalizar oportunidades de crecimiento.
La reciente decisión del Secretario de Comercio, Howard Lutnick, de renombrar el Instituto de Seguridad de IA de EE. UU. como el Centro para Estándares e Innovación de IA refleja un cambio profundo en las prioridades nacionales hacia el desarrollo de la IA. Este cambio plantea preguntas críticas sobre quién define los «estándares» y qué valores los moldean.
Pillar Security ha desarrollado un marco de seguridad de IA que representa un importante avance en los esfuerzos de la industria para garantizar operaciones seguras para la inteligencia artificial. Este marco, conocido como Secure AI Lifecycle Framework (SAIL), aborda más de 70 riesgos y proporciona mitigaciones alineadas con otros marcos líderes.
La proliferación de agentes de IA en aplicaciones empresariales está creando un nuevo tipo complejo de tráfico de red, conocido como «tráfico agente». Este fenómeno presenta desafíos significativos en visibilidad, seguridad y gestión de costos, ya que las solicitudes salientes a menudo evitan la supervisión tradicional de infraestructura.
Los copilotos de IA, como el de Microsoft, presentan nuevos riesgos de seguridad, privacidad y cumplimiento que pueden poner a las organizaciones en riesgo de violaciones de datos. Es crucial que las organizaciones implementen medidas de gobernanza y seguridad sólidas para proteger sus datos confidenciales y cumplir con las regulaciones.
La emergencia de la inteligencia artificial (IA) ha transformado fundamentalmente el panorama de la ciberseguridad, utilizándose tanto como solución como amenaza. A medida que la IA se integra en los productos y flujos de trabajo de ciberseguridad, los profesionales deben evolucionar proactivamente sus habilidades para abordar los nuevos desafíos.
Nueva York está a punto de introducir una de las primeras leyes que regulará los modelos avanzados de inteligencia artificial en los Estados Unidos. La Ley de Seguridad y Educación de IA Responsable (RAISE) requerirá que los desarrolladores de IA, como OpenAI y Google, implementen estrictas medidas de seguridad antes de que sus modelos sean públicos.
El Senado del Estado de Nueva York ha aprobado un proyecto de ley innovador sobre la seguridad de la inteligencia artificial, conocido como la Ley RAISE, promovido por el senador Andrew Gounardes. Esta legislación busca imponer salvaguardias críticas en el desarrollo y despliegue de tecnologías de IA para proteger a la sociedad de los riesgos asociados.
El objetivo de la Ley RAISE de Nueva York es proteger a las personas de los daños causados por la inteligencia artificial, pero al centrarse en los modelos de IA como el punto clave para garantizar la seguridad, corre el riesgo de convertir un desafío técnico en una carga burocrática. Aunque busca alinear los intereses de las empresas con la seguridad pública, la implementación de requisitos rigurosos podría priorizar el cumplimiento sobre los resultados reales de seguridad.
Los legisladores del estado de Nueva York aprobaron un proyecto de ley que busca prevenir que los modelos de inteligencia artificial de OpenAI, Google y Anthropic contribuyan a escenarios de desastre. Si se convierte en ley, el proyecto establecería los primeros estándares de transparencia legalmente obligatorios para los laboratorios de IA de frontera en Estados Unidos.