El gobernador de California, Gavin Newsom, firmó la Ley de Transparencia en la Inteligencia Artificial de Frontera, conocida como SB 53, que establece nuevas regulaciones específicas para la IA en la industria. Esta legislación requiere que las principales empresas de IA cumplan con requisitos de transparencia y reporten incidentes de seguridad relacionados con la inteligencia artificial.
La gestión y gobernanza de datos son clave para el éxito de las iniciativas de inteligencia artificial, según expertos de InfoVerge. En una serie de seminarios web, se discutieron los pasos necesarios para construir una base sólida de datos que permita escalar la inteligencia artificial de manera efectiva.
Los funcionarios de EE. UU. rechazaron un esfuerzo por establecer un marco de gobernanza global de inteligencia artificial en la Asamblea General de las Naciones Unidas, a pesar del amplio apoyo de muchas naciones del mundo, incluida China. El director de la Oficina de Ciencia y Tecnología de EE. UU., Michael Kratsios, afirmó que Washington “rechaza totalmente” los esfuerzos de organizaciones internacionales para “afirmar el control centralizado y la gobernanza global de la IA”.
En un mundo de inteligencia artificial en rápida evolución, las empresas están adoptando cada vez más sistemas de IA agentiva, programas autónomos que pueden tomar decisiones y ejecutar tareas sin supervisión humana constante. Sin embargo, la proliferación de estas tecnologías está dando lugar a un nuevo desafío: la expansión descontrolada de la IA agentiva, lo que podría provocar vulnerabilidades de seguridad y problemas de cumplimiento.
A medida que los modelos de lenguaje grande (LLMs) se vuelven comunes en áreas como la atención médica, las finanzas y la educación, su papel como guardianes de la opinión genera alarmas sobre sesgos ocultos que pueden distorsionar el discurso público. Un nuevo estudio académico advierte que estos sesgos sutiles podrían socavar los procesos democráticos y plantea preguntas urgentes sobre cómo abordar este desafío con las leyes existentes.
El mundo en expansión de la inteligencia artificial (IA) se encuentra en un momento crítico, ya que una ola de acciones regulatorias y precedentes legales subraya un cambio global hacia la responsabilidad y el despliegue ético. Estos desarrollos indican un giro inmediato y profundo en el paisaje para las empresas tecnológicas y los mercados financieros.
A medida que la adopción de la inteligencia artificial generativa se acelera, también lo hacen los riesgos asociados. Las herramientas de gobernanza de IA ofrecen una forma de gestionar estos riesgos, y en colaboración con Tokio Marine Group, hemos diseñado un proceso de evaluación estructurado para identificar las soluciones más efectivas.
Las Naciones Unidas están impulsando la influencia global sobre la política de inteligencia artificial, enfocándose en estándares técnicos y de políticas para una IA «segura, confiable y protegida». La creación de un nuevo panel de expertos busca desarrollar normas científicas y técnicas, promoviendo la cooperación internacional y la discusión abierta sobre la gobernanza de la IA.
Recientemente, en Singapur, dos hombres discutieron sobre cómo la regulación de la IA puede ser impulsada por los científicos de datos. Su conversación destacó el innovador Proyecto MindForge, que examina los riesgos y oportunidades de la IA en el sector de servicios financieros.
Las pequeñas y medianas empresas (PYMES) deben prepararse para la normativa de IA de la UE, que establece requisitos estrictos para las aplicaciones de IA de alto riesgo, como los sistemas de selección de CV. Adoptar una estrategia proactiva de cumplimiento puede ayudar a las PYMES a transformarse en una ventaja competitiva en un entorno regulatorio en constante cambio.