Las Empresas de IA Aseguran que las Normas Existentes Pueden Regular la IA Agente
Las empresas de inteligencia artificial (IA) están adoptando la IA agente, considerada como la próxima evolución de la IA generativa. A medida que la innovación avanza, los desarrolladores de IA argumentan que los actuales procesos de seguridad y las normas estatales y federales pueden proteger a las empresas y consumidores que comienzan a utilizar esta tecnología.
Definición de IA Agente
La IA agente se refiere a sistemas de IA compuestos por múltiples agentes de IA que pueden actuar de manera autónoma para completar tareas. Empresas como Meta y OpenAI ofrecen plataformas para que las empresas construyan sus propios agentes de IA.
Regulaciones Actuales y su Aplicación
Erica Finkle, directora de políticas de IA en Meta, resalta que las leyes de protección al consumidor, contratos y regulaciones específicas del sector pueden servir como guardrails técnicos para las nuevas capacidades de la IA agente. Finkle señala que es crucial entender cómo se aplican estas normas en el contexto de los agentes de IA y la IA en general.
En el caso de uso empresarial, el agente se convierte esencialmente en una extensión del sistema de TI de la empresa.
Importancia de Evaluar las Leyes Actuales
A.J. Bhadelia, líder de políticas públicas de IA en la empresa Cohere, enfatiza que es fundamental evaluar dónde se pueden aplicar las leyes actuales a productos como los agentes de IA y dónde pueden existir brechas que requieran nuevas regulaciones. La administración del presidente Donald Trump está actualmente desarrollando un plan de acción para guiar la política de EE. UU. sobre IA.
Bhadelia también sugiere enfocarse en casos de uso individuales, algo que la Ley de IA de la Unión Europea hace al categorizar los sistemas de IA en diferentes niveles de riesgo. Por ejemplo, desarrollar un agente de IA para operar dentro de una empresa implica un nivel de riesgo diferente que un agente de IA orientado al consumidor.
Normas y Comunicación entre Agentes de IA
Finkle también menciona la necesidad de establecer un vocabulario estándar a nivel arquitectónico para la comunicación entre agentes de IA. Diferentes proveedores están desarrollando agentes de IA específicos para completar tareas en sectores como la salud o la energía. Mantener una infraestructura de IA abierta e interoperable, así como un vocabulario estandarizado, será crítico para lograr interacciones multiagente.
Control Humano en el Uso de IA Agente
El panelista Avijit Ghosh, investigador en la plataforma de IA y IA generativa Hugging Face, argumenta que las empresas de IA no deberían desarrollar IA agente totalmente autónoma debido a riesgos como la pérdida del control humano, el uso malicioso y la pérdida de privacidad de datos. Ghosh destaca que es importante mantener el control humano en cada nivel del flujo de trabajo de la IA agente.
La implementación de protocolos de comunicación entre agentes y la consideración de cómo delegar responsabilidades y responsabilidades a los humanos serán cuestiones importantes a considerar para la IA agente.
Transparencia y Divulgación
A medida que las empresas continúan desarrollando la IA agente, la transparencia y la divulgación sobre la formación de los agentes de IA ayudarán a proporcionar una hoja de ruta clara para los responsables de políticas a medida que consideran si crear nuevas reglas para la tecnología. Esto no resolverá ningún problema específico, pero colocará a los responsables de políticas, al público y a la sociedad civil en una posición mucho mejor para entender y responder a los cambios en este espacio dinámico.
