Lo que las carreras pueden enseñarnos sobre la IA agentiva y la gobernanza
La IA agentiva se asemeja a un piloto de carreras. Tiene autonomía y está facultada para tomar decisiones en función de sus objetivos, entorno y obstáculos. El éxito del piloto depende de una planificación meticulosa, toma de decisiones en tiempo real y mejora continua, desde el diseño aerodinámico del coche hasta la estrategia detrás de las paradas en boxes. De manera similar, la evaluación, monitoreo y protección de datos y IA son fundamentales para las empresas que buscan escalar y crecer de manera efectiva.
Las IA agentivas pueden adaptarse de manera autónoma a nuevos datos, aprender de sus errores y corregir decisiones para alinearse con su propósito previsto. Al igual que los coches de carreras tienen tecnología y características integradas para proteger a los pilotos y a la infraestructura, es crucial preguntarse: ¿qué protege a las IA agentivas, a las personas con las que interactúan y a los datos de las organizaciones en las que operan?
Toda IA necesita gobernanza para desbloquear su máximo potencial
Casi todas las organizaciones están buscando cómo hacer más y ser más eficientes. Según el Nielsen Norman Group, la IA agentiva puede utilizarse para aumentar la productividad en un 66%, permitiendo que las personas se concentren en lo que realmente marca la diferencia en su trabajo diario. Sin embargo, desarrollar un agente que sea competente, eficiente y responsable requiere un esfuerzo y planificación significativos.
La evaluación requiere un esfuerzo en equipo que abarca desde los individuos hasta el nivel ejecutivo, involucrando áreas como IA, datos, cumplimiento, seguridad, riesgo y privacidad. Un esfuerzo conjunto es necesario para entender cómo el agente se desempeña en diversas circunstancias, qué modelos funcionan mejor y qué recursos y herramientas debe utilizar. Además, el equipo debe evaluar el rendimiento durante la fase de construcción y experimentación, y monitorear una vez que se ha desplegado.
Los agentes deben navegar por un complejo paisaje de datos, herramientas y modelos, al igual que un piloto profesional navega por un complicado circuito de carreras. Los pilotos no están solos al competir; los agentes del futuro interactuarán con muchos otros agentes para completar sus tareas. Las carreras requieren un considerable apoyo: el equipo de boxes y el gerente; las reglas y restricciones establecidas de la carrera; y la tecnología, incluidas las características de seguridad del coche.
El equipo de boxes asegura que el coche esté en condiciones óptimas, toma decisiones estratégicas durante la carrera y se adapta a condiciones cambiantes. Al mismo tiempo, los demás miembros del equipo verifican su rendimiento y toman decisiones basadas en datos observados.
La anatomía de la gobernanza de IA
Un coche de carreras debe adherirse a estrictas reglas y estándares de seguridad; de la misma manera, la IA debe operar dentro de límites éticos claramente definidos. Aquí, la gobernanza de IA actúa como el chasis, proporcionando un conjunto de principios y regulaciones robustas que guían el comportamiento de la IA y aseguran la equidad, transparencia y responsabilidad.
Los mecanismos para monitorear y auditar los sistemas de IA son como los neumáticos, asegurando la alineación con los principios de gobernanza y los requisitos legales. Estas salvaguardias previenen desviaciones no deseadas hacia decisiones sesgadas o violaciones de privacidad, al igual que las paradas en boxes aseguran que un coche de carreras se mantenga en la trayectoria correcta y opere a su máxima capacidad.
En esta carrera de alto riesgo, los interesados de todos los ángulos—desarrolladores, profesionales de aseguramiento y seguridad, líderes empresariales y reguladores—deben trabajar en estrecha formación, comunicándose constantemente y ajustándose para mantener el control sobre la trayectoria de la IA. Algunos de los cambios que antes se consideraban impredecibles, ahora pueden preverse. Este rol pertenece al director y a los ingenieros, quienes construyen toda su estrategia de carrera basada en datos seguros y predicciones.
Reglas del camino: ¿Qué tan rápido puedes identificar y estar bajo los requisitos correctos?
Las carreras oficiales tienen regulaciones de seguridad estrictas, y la IA debe atenerse a estándares éticos y legales. Estos estándares incluyen diversos requisitos relacionados con la privacidad, seguridad, equidad y más. Las regulaciones fomentan el uso seguro, justo y responsable y están destinadas a generar confianza en los sistemas de IA, al igual que la confianza entre un equipo de carreras y sus aficionados.
Aunque aún no existe una regulación específicamente enfocada en la IA agentiva, hay un mosaico de regulaciones existentes y emergentes para la IA que son aplicables a los agentes. La capacidad de auditar y rastrear las interacciones de un agente con datos, herramientas y usuarios puede ayudar con los requisitos de cumplimiento. Los coches de carreras tienen computadoras que monitorean constantemente la seguridad y el rendimiento, proporcionando análisis postmortem después de una carrera.
Si hay dudas sobre si un equipo rompió las reglas, hay datos disponibles para revisar. Con la mayoría de las IA, especialmente los agentes, el rastreo y la captura de metadatos no son típicamente automatizados. Las herramientas de gobernanza de IA pueden ayudar a crear rutas de auditoría detalladas de todo lo que el agente hizo para entender lo que ocurrió, haciendo que el despliegue de agentes sea menos una caja negra.
Creciendo tu portafolio de agentes
Las organizaciones pueden construir sus propios agentes o adquirirlos de un proveedor externo. Una vez que se sientan cómodas con la IA agentiva y tengan los procesos adecuados en su lugar, pueden encontrar una multitud de casos de uso agentivo. A medida que las organizaciones aumentan su uso de agentes, rastrear todos los agentes en la organización y su mapeo puede ser un desafío.
Los equipos de carreras tienen varios coches para elegir en su instalación de desarrollo y garaje. Su equipo de diseño selecciona el motor, chasis, neumáticos y pilotos adecuados para cada carrera. Sin embargo, puede haber cierta superposición en términos de piezas, por lo que conocer qué herramientas y componentes tiene cada equipo en su acceso es útil.
Aquí es donde un catálogo de agentes gobernados puede ayudar a las organizaciones a entender qué hay en su “garaje” y “caja de herramientas” de agentes. Se ahorra un tiempo significativo cuando un agente, herramientas agentivas o flujos de trabajo pueden ser reutilizados o modificados de un caso de uso a otro. El catálogo de agentes gobernados asegura que se utilicen herramientas y agentes verificados y confiables para construir IA agentiva en cada organización. También puede rastrear la utilización de agentes en el portafolio para entender cuáles son los más exitosos y versátiles.
Las similitudes entre la IA agentiva y las carreras son más que una metáfora extendida. Pueden ayudarnos a entender y apreciar mejor las complejidades y matices de la gobernanza de IA, de la misma manera que un entusiasta de las carreras aprecia las intricacias de una competición automovilística.
Conclusión
La innovación y las soluciones en el ámbito de la IA agentiva son fundamentales para aprovechar su potencial. La gobernanza efectiva es esencial para asegurar que estas tecnologías sean seguras, responsables y eficientes, beneficiando así a las organizaciones y a la sociedad en su conjunto.
