El Futuro Audaz de Workday con IA Responsable y Agente
En este artículo discutimos:
- Enfocándonos en la Tecnología y las Personas
- Avanzando hacia el Futuro, Respetando Nuestros Fundamentos
A medida que la IA entra en su próxima evolución—los agentes—el marco de gobernanza de IA responsable (RAI) sigue guiando las decisiones sobre el desarrollo de productos. Los agentes de IA son sistemas diseñados para traducir la intención del usuario en acciones coordinadas, abriendo un mundo de potencial en el lugar de trabajo, y con estas nuevas capacidades surgen nuevas consideraciones sobre la IA responsable.
Creemos que la verdadera innovación significa aportar un valor real y positivo a nuestros clientes mientras evitamos daños, por lo que el compromiso con la IA ética y responsable es más crucial que nunca. Todo se basa en nuestros valores fundamentales—Integridad e Innovación. Estos mismos principios de ética de IA sirven como nuestra estrella guía, orientando cada decisión que tomamos para asegurar que la IA que construimos sea confiable. La IA responsable no es un complemento para nosotros; está en el núcleo de nuestra estrategia.
Enfocándonos en la Tecnología y las Personas
Nuestra aproximación a la IA responsable es holística—lo que llamamos sociotécnica. Esto significa que miramos el panorama completo: no solo la tecnología, sino cómo las personas reales la utilizan en lugares de trabajo reales. Diseñamos nuestras salvaguardas en torno a cómo la IA interactúa con equipos, procesos y toda la organización. La IA agente introduce una nueva dinámica, pasando de la asistencia a la acción autónoma, y por eso estamos adaptando nuestro marco existente y flexible para escalar con los nuevos riesgos y capacidades.
Consideraciones Técnicas
La IA agente trae un cambio técnico importante. Para gobernarla, nos enfocamos en tres áreas centrales—riesgos que son también fundamentales para las regulaciones emergentes como la Ley de IA de la UE:
- Autonomía: Somos deliberados sobre qué acciones pueden tomar los agentes por su cuenta. Priorizamos los derechos humanos y la seguridad, asegurando que las decisiones trascendentales, como la contratación, siempre permanezcan en manos humanas y nunca se automatizan.
- Transparencia: Las acciones de los agentes deben ser visibles y trazables. Un rastro de auditoría es esencial para que los clientes y desarrolladores puedan reconstruir el comportamiento, detectar acciones desalineadas y asegurar responsabilidad y cumplimiento.
- Seguridad: Los agentes con acceso a herramientas empresariales pueden plantear riesgos de seguridad. Para limitar daños y proteger la confianza, los agentes operan bajo un modelo de «mínimo privilegio», heredando solo los permisos existentes del usuario humano.
Consideraciones Sociales
Las salvaguardas técnicas son solo la mitad de la historia. La otra mitad tiene que ver con los humanos. Cuando las organizaciones adoptan soluciones de IA agente, debemos repensar cómo esto puede impactar a las personas, incluyendo cómo lucen sus trabajos. Nuevos riesgos emergen cuando humanos y agentes comienzan a colaborar. Por eso, el lado social de nuestra gobernanza se centra en tres áreas clave:
- Responsabilidad: Es importante ser claro sobre quién es responsable de qué. Nos aseguramos de que los humanos mantengan el control de decisiones trascendentales, pero los usuarios también deben entender su papel en la supervisión de la tecnología.
- Evaluaciones: Evaluamos más allá de la calidad de salida. Probamos el comportamiento del agente: cómo interpretan instrucciones, toman decisiones y responden cuando las cosas salen mal. Esto requiere evaluaciones continuas y basadas en escenarios según el nivel de autonomía del agente.
- Gestión del Cambio: Creemos en guiar a nuestros empleados a través del viaje de la IA para asegurar una transición fluida y construir confianza. Lideramos con valores centrados en el ser humano y salvaguardas claras de seguridad, para que los empleados entiendan tanto el «por qué» como el «cómo» para una asociación exitosa con la IA.
Avanzando hacia el Futuro, Respetando Nuestros Fundamentos
Estamos comprometidos a construir agentes de IA responsables y confiables, basados en nuestros principios fundacionales y éticos. Esto es posible porque nuestro fuerte marco de gobernanza fue intencionadamente construido para la agilidad, permitiendo que nuestros principios fundamentales se extiendan de manera natural y confiada al espacio agente. A medida que la tecnología, la política y las regulaciones continúan evolucionando, estamos en un terreno sólido y no tenemos que repensar fundamentalmente nuestro enfoque. Al mantenernos fieles a la integridad y la innovación, estamos seguros de que nuestro enfoque principista hacia la IA agente desbloqueará un potencial significativo y ayudará a transformar el mundo del trabajo para mejor.
