Las empresas ya están utilizando IA agente para tomar decisiones, pero la gobernanza se queda atrás
Las empresas están adoptando rápidamente la IA agente, sistemas de inteligencia artificial que operan sin guía humana. Sin embargo, han sido mucho más lentas en establecer una gobernanza adecuada para supervisar estos sistemas, según una nueva encuesta. Esta falta de alineación representa una fuente importante de riesgo en la adopción de la IA, pero también una oportunidad de negocio.
Adopción y gobernanza de la IA agente
Una encuesta reciente reveló que el 41% de las organizaciones utilizan IA agente en sus operaciones diarias, integrándola en flujos de trabajo regulares en lugar de solo en proyectos piloto. A pesar de esta adopción, solo el 27% de las organizaciones afirma que sus marcos de gobernanza son lo suficientemente maduros para gestionar estos sistemas de manera efectiva.
La gobernanza, en este contexto, no se refiere a regulación o reglas innecesarias. Se trata de contar con políticas y prácticas que permitan a las personas influir claramente en cómo funcionan los sistemas autónomos, incluyendo quién es responsable de las decisiones y cómo se verifica su comportamiento.
Riesgos de la falta de gobernanza
Este desajuste puede convertirse en un problema cuando los sistemas autónomos actúan en situaciones reales antes de que alguien pueda intervenir. Un ejemplo reciente involucró a robotaxis autónomos que se quedaron atascados en intersecciones durante un apagón, bloqueando vehículos de emergencia y confundiendo a otros conductores. Esta situación demostró que, incluso cuando los sistemas autónomos funcionan «como se diseñaron», las condiciones inesperadas pueden llevar a resultados indeseables.
Esto plantea una gran pregunta: ¿Quién es responsable cuando algo sale mal con la IA y quién puede intervenir?
Importancia de la gobernanza
Cuando los sistemas de IA actúan por su cuenta, la responsabilidad ya no recae donde las organizaciones esperan. Las decisiones aún ocurren, pero la propiedad es más difícil de rastrear. Por ejemplo, en servicios financieros, los sistemas de detección de fraudes actúan en tiempo real para bloquear actividades sospechosas antes de que un humano revise el caso. Los clientes a menudo solo se enteran cuando su tarjeta es declinada.
Los problemas ocurren cuando las organizaciones no definen claramente cómo deben trabajar las personas y los sistemas autónomos. Esta falta de claridad dificulta saber quién es responsable y cuándo debe intervenir.
Intervención tardía de los humanos
En muchas organizaciones, los humanos están técnicamente «en el bucle», pero solo después de que los sistemas autónomos ya han actuado. Las personas tienden a involucrarse una vez que un problema se vuelve visible, lo que significa que la revisión humana se convierte en correctiva en lugar de supervisoria.
Esta intervención tardía puede limitar las repercusiones de decisiones individuales, pero rara vez aclara quién es responsable. Los resultados pueden corregirse, pero la responsabilidad permanece poco clara. La guía reciente indica que cuando la autoridad no está clara, la supervisión humana se vuelve informal e inconsistente.
La clave para un futuro exitoso
La IA agente a menudo proporciona resultados rápidos y tempranos, especialmente cuando las tareas se automatizan por primera vez. Sin embargo, a medida que los sistemas autónomos crecen, las organizaciones a menudo añaden controles manuales y pasos de aprobación para gestionar riesgos, lo cual complica el proceso. Esta desaceleración no se debe a que la tecnología deje de funcionar, sino porque las personas nunca confían plenamente en los sistemas autónomos.
La buena gobernanza no limita la autonomía; la hace viable al aclarar quién posee las decisiones, cómo se monitorean las funciones del sistema y cuándo deben intervenir las personas. La gobernanza inteligente se convertirá en la próxima ventaja competitiva en la IA.
Conclusión
En la era de la IA agente, el éxito pertenecerá a las organizaciones que definan claramente la propiedad, la supervisión y la intervención desde el principio. La confianza se acumulará en aquellas que mejor gobiernen, no solo en las que adopten primero.
