Marco para la Gobernanza de la IA en California

Respuesta del Senador Wiener al Informe Final de Expertos sobre el Marco de Gobernanza de la IA

El 17 de junio de 2025, el Grupo de Trabajo Conjunto sobre Modelos de Frontera de IA de California publicó su informe final, presentando un marco para la gobernanza de los modelos de IA en el estado. Este grupo fue convocado por el Gobernador Gavin Newsom tras el veto del SB 1047 del Senador Scott Wiener.

Declaración del Senador Wiener

En respuesta al lanzamiento del informe, el Senador Wiener declaró:

“Este informe afirma lo que nuestras mentes más brillantes en IA han afirmado claramente: que si bien la IA presenta oportunidades masivas para ofrecer un futuro de abundancia y prosperidad generalizada, el inmenso poder de estos modelos requiere que los policymakers actúen con rapidez para establecer guardrails de seguridad efectivos. Aprecio el arduo trabajo y la reflexión que los miembros del Grupo de Trabajo Conjunto sobre Modelos de Frontera de IA han puesto en este informe.”

Importancia de la Gobernanza de la IA

Wiener destacó que estas conclusiones llegan en un momento urgente para el futuro de la IA en California y en todo el mundo. Muchas empresas están abogando abiertamente por que el gobierno federal elimine las protecciones estatales contra el deepfake, la discriminación algorítmica en decisiones de salud y el robo de propiedad intelectual, protecciones de sentido común que todos podemos aceptar.

“Estos esfuerzos han recibido críticas bipartidistas de líderes electos en los 50 estados, porque la necesidad de salvaguardias básicas es obvia para cualquiera que preste atención al rápido ritmo de mejora en las capacidades de la IA.”

El Rol de California en la Gobernanza de la IA

El Senador Wiener enfatizó que California aún tiene un papel vital que desempeñar en el establecimiento de salvaguardias para la IA, afirmando que “podemos establecer el estándar que otros seguirán.” Las recomendaciones en el informe buscan un equilibrio reflexivo entre la necesidad de salvaguardias y la necesidad de apoyar la innovación.

“Mi oficina está considerando qué recomendaciones incorporar en el SB 53, y invito a todos los interesados relevantes a participar de manera productiva en ese proceso.”

Contexto del Grupo de Trabajo

El Grupo de Trabajo fue convocado por el Gobernador Newsom al final de la última sesión legislativa con el objetivo de reunir evidencia y recomendaciones de los principales investigadores y expertos en políticas en IA de nuestro estado, para ayudar a los legisladores de California a desarrollar guardrails viables para el despliegue de sistemas avanzados de IA. El grupo está compuesto por:

  • Dr. Fei-Fei Li, Co-Directora, Instituto de IA Centrada en el Ser Humano de Stanford
  • Dr. Jennifer Tour Chayes, Decana de la Facultad de Computación, Ciencia de Datos y Sociedad en UC Berkeley
  • Tino Cuéllar, Presidente del Carnegie Endowment for International Peace

More Insights

Inteligencia Artificial y Ciberseguridad: Desafíos de Responsabilidad

A medida que las organizaciones adoptan la inteligencia artificial (IA) para impulsar la innovación y transformar las operaciones, deben enfrentar una nueva realidad: la IA está remodelando...

Enfoque Inteligente para la Gobernanza de la IA en Tailandia

El Sr. Sak menciona que la próxima legislación tiene como objetivo proteger a los usuarios de los posibles riesgos de la IA y eliminar las barreras legales que las leyes existentes no pueden abordar...

Texas Establece Leyes de Gobernanza de IA con Enfoque en Salud

Texas ha dado un paso significativo en la regulación de la inteligencia artificial (IA) con la aprobación de los proyectos de ley HB 149 y SB 1188, que establecen un marco amplio para el uso...

Gillian K. Hadfield: Nueva Líder en Gobernanza de IA

Gillian K. Hadfield ha sido nombrada Profesora Distinguida Bloomberg de Alineación y Gobernanza de la IA en la Universidad Johns Hopkins. Su investigación se centra en asegurar que los sistemas de...

Gobernanza Ética e Inclusiva de la IA en Indonesia

El Ministerio de Comunicación y Digital de Indonesia ha reafirmado su compromiso de incorporar principios éticos e inclusivos en sus políticas de inteligencia artificial (IA). El Vice Ministro Nezar...

Texas y la Nueva Ley de Gobernanza de IA Responsable

El 22 de junio de 2025, el gobernador Abbott firmó la Ley de Gobernanza de Inteligencia Artificial Responsable de Texas, convirtiendo a Texas en el tercer estado de EE. UU. en adoptar una ley integral...

La IA como Ventaja Competitiva en Cumplimiento Normativo

La inteligencia artificial está ayudando a las empresas a cumplir con una compleja gama de regulaciones en constante evolución, brindándoles una ventaja competitiva. Las herramientas basadas en IA...