La legislación sobre la regulación de la seguridad de la IA, conocida como la Ley RAISE, ha sido aprobada en Nueva York, lo que ha generado descontento entre los capitalistas de riesgo. La ley exige que los desarrolladores de modelos de lenguaje grandes creen y publiquen protocolos de seguridad y evaluaciones de riesgos.
Nueva York está a punto de introducir una de las primeras leyes que regulará los modelos avanzados de inteligencia artificial en los Estados Unidos. La Ley de Seguridad y Educación de IA Responsable (RAISE) requerirá que los desarrolladores de IA, como OpenAI y Google, implementen estrictas medidas de seguridad antes de que sus modelos sean públicos.
Los Agentes Guardian están emergiendo como herramientas esenciales para monitorear y gestionar el comportamiento autónomo de la inteligencia artificial. Su adopción está creciendo en entornos empresariales, donde es crucial abordar riesgos como el secuestro de credenciales y asegurar una gobernanza sólida de la IA.
El Senado del Estado de Nueva York ha aprobado un proyecto de ley innovador sobre la seguridad de la inteligencia artificial, conocido como la Ley RAISE, promovido por el senador Andrew Gounardes. Esta legislación busca imponer salvaguardias críticas en el desarrollo y despliegue de tecnologías de IA para proteger a la sociedad de los riesgos asociados.
El estado de Nueva York ha aprobado la Ley RAISE, una legislación pionera que regula la seguridad de los sistemas de inteligencia artificial avanzados. Esta ley establece estándares de transparencia y reporte obligatorios para los principales desarrolladores de IA, buscando equilibrar la innovación con la seguridad.
El objetivo de la Ley RAISE de Nueva York es proteger a las personas de los daños causados por la inteligencia artificial, pero al centrarse en los modelos de IA como el punto clave para garantizar la seguridad, corre el riesgo de convertir un desafío técnico en una carga burocrática. Aunque busca alinear los intereses de las empresas con la seguridad pública, la implementación de requisitos rigurosos podría priorizar el cumplimiento sobre los resultados reales de seguridad.
Un nuevo estudio revela que solo el 6% de las organizaciones tienen una estrategia avanzada de seguridad de IA, lo que indica una falta general de preparación ante las amenazas impulsadas por la inteligencia artificial. La investigación destaca un alarmante desconexión entre la rápida adopción de tecnologías de IA y la implementación de controles de seguridad necesarios.
Los expertos advierten que la inteligencia artificial agente, que opera con un alto grado de autonomía, presenta riesgos de seguridad cada vez mayores para las organizaciones. A medida que estas tecnologías se implementan más rápido que los controles de seguridad, se incrementa el peligro de errores y vulnerabilidades.
La ley pionera de Colorado sobre inteligencia artificial refleja importantes objetivos de equidad y transparencia en el uso de la IA. Sin embargo, la falta de adopción del SB318 deja a los empleadores con una incertidumbre significativa en cuanto al cumplimiento.
Recientemente, me encontré en un debate interesante con mi equipo sobre los Niveles de Seguridad de la Inteligencia Artificial (ASLs). Cada ASL marca un nivel diferente de capacidad y riesgo de la IA, desde ASL-1, donde existen modelos más pequeños con riesgo mínimo, hasta ASL-4, donde las cosas se vuelven especulativas y, francamente, un poco inquietantes.