Kyndryl quiere ayudar a las empresas a mantener a los agentes de IA en línea y evitar costosos errores de cumplimiento
Kyndryl ha anunciado una nueva función de «política como código» destinada a ayudar a las organizaciones a escalar la IA agente en entornos complejos y regulados.
Descripción de la función
La idea es convertir las reglas organizacionales de una empresa, los requisitos regulatorios y los controles operativos en políticas legibles por máquina que gobiernen dónde pueden y no pueden operar los agentes.
Las organizaciones típicamente implementan políticas como código a través de una combinación de lenguajes de políticas declarativas y motores de aplicación. En otras palabras, incorporan las regulaciones y reglas operativas apropiadas en un código que los agentes de IA pueden leer y deben obedecer. Si está en el código, el agente de IA debe ejecutarlo. Y si una instrucción no está en el código, el agente de IA no puede verla ni actuar sobre ella.
Contexto y necesidad
Este movimiento surge en medio de crecientes preocupaciones de cumplimiento regulatorio para las empresas que están aumentando la adopción de la IA agente. Según Kyndryl, más de tres de cada diez de sus clientes han expresado que los problemas de cumplimiento limitan seriamente su capacidad para escalar las inversiones tecnológicas recientes.
La nueva capacidad de política como código tiene como objetivo abordar esto definiendo límites operativos y diseñando las acciones de los agentes para que permanezcan explicables, revisables y alineadas con los requisitos comerciales y regulatorios definidos por el cliente.
Características y beneficios
Esta nueva función se integrará directamente en el marco de IA agente de Kyndryl, lanzado el verano pasado como un portafolio de agentes de IA especializados, autodirigidos y de autoaprendizaje.
Las características incluyen la ejecución determinista, donde los agentes solo ejecutan acciones que han sido permitidas y aplicadas con antelación. Se implementan barreras que bloquean acciones impredecibles o no autorizadas a lo largo del flujo de trabajo, eliminando el impacto operativo de las alucinaciones de los agentes. Cada acción y decisión del agente se registra y es explicable, apoyando el cumplimiento y la supervisión.
Es importante destacar que las decisiones están sujetas a supervisión humana, con los agentes ejecutando tareas alineadas con políticas establecidas y comprobables que se monitorean a través de un panel de control.
Implicaciones para industrias reguladas
La política como código debería ser particularmente valiosa en industrias altamente reguladas, como los servicios financieros, la atención médica y el gobierno. Ayuda a estas industrias a aprovechar plenamente los beneficios de la IA y la IA agente al reducir el riesgo de fallos de cumplimiento que dañan las reputaciones y conllevan fuertes sanciones financieras.
Al aplicar reglas programáticas a gran escala, la política como código ayuda a eliminar el error humano que puede llevar a otorgar permisos inapropiados a la IA, interpretar reglas y regulaciones de manera inconsistente y no documentar excepciones a las operaciones estándar.
