La gobernanza se queda atrás mientras la IA en la sombra transforma los flujos de trabajo de colaboración
A veces, la IA en la sombra se presenta sin aviso. Te unes a una reunión y notas un invitado que no recuerdas haber invitado: un bot desconocido que transcribe y resume la llamada.
Otras veces, es menos visible. Un representante de ventas pega una transcripción de una reunión en un asistente de IA externo, o un equipo de proyecto utiliza un copiloto de navegador para resumir hilos de Slack.
Estos tipos de herramientas son parte de la IA en la sombra, el uso de asistentes impulsados por IA sin el conocimiento o supervisión del departamento de TI, y su presencia se está propagando rápidamente en los entornos de comunicaciones unificadas.
La aparición de la IA en la sombra
La IA en la sombra se presenta en las plataformas de comunicaciones unificadas de maneras inesperadas. Los asistentes de reuniones basados en IA, que son bots que se unen a reuniones en plataformas como Zoom o Teams y generan transcripciones o resúmenes, son cada vez más comunes. Tres cuartas partes de los encuestados utilizan un tomador de notas de IA en reuniones de trabajo. Los copilotos de IA están integrados en varios clientes de correo electrónico comunes, donde realizan funciones como redactar respuestas o resumir correos electrónicos. Las extensiones de navegador pueden resumir hilos de Slack o Teams y otras comunicaciones. Algunos empleados también pegan transcripciones o grabaciones en herramientas de IA externas después de las reuniones.
Sin embargo, la IA en la sombra no es un problema exclusivo de las comunicaciones unificadas, pero estos usos presentan diferencias clave que crean riesgos. Estas herramientas habilitadas para IA a menudo están integradas en los flujos de trabajo de colaboración, dejando poco rastro en los registros de auditoría. A veces existen fuera de las plataformas de comunicaciones unificadas, por ejemplo, cuando un empleado pega una transcripción de una reunión de Teams en su cuenta personal de un asistente de IA. Independientemente de cómo se utilicen, la IA en la sombra puede influir en la toma de decisiones, la creación de conocimiento y el comportamiento de los empleados.
Riesgos asociados con la IA en la sombra
Las organizaciones, en promedio, están rezagadas en la gobernanza relacionada con la IA. Existe una brecha significativa entre las ambiciones de IA de las empresas y su gobernanza operativa, con poco más de un tercio de ellas aún careciendo de funciones de gobernanza dedicadas. Esta brecha de gobernanza presenta varios riesgos relacionados con las comunicaciones unificadas, que incluyen:
Filtración de datos: Los empleados ingresan datos confidenciales en herramientas de IA externas, que pueden almacenarlos, reutilizarlos o utilizarlos para el entrenamiento de modelos.
Exposición a la conformidad: La IA en la sombra puede eludir flujos de trabajo regulados y controles de privacidad, lo que podría violar mandatos de cumplimiento de la industria o marcos regulatorios.
Opacidad en la toma de decisiones: La IA puede influir en documentos, resultados de reuniones, resúmenes u otros documentos comerciales sin transparencia o permiso.
Falta de visibilidad: Los equipos de comunicaciones unificadas a menudo no saben qué herramientas de IA están utilizando los empleados, lo que impacta en la capacidad de la organización para monitorear riesgos o hacer cumplir políticas.
Desafíos para la gobernanza tradicional
Los controles tradicionales tienen dificultades para abordar estos riesgos porque se centran en aplicaciones aprobadas, tráfico de red y gestión de dispositivos, mientras que la IA en la sombra rompe estas suposiciones. Los modelos de gobernanza diseñados para la adquisición de software tradicional luchan con la IA integrada en los flujos de trabajo cotidianos.
Las herramientas habilitadas para IA están diseñadas para funcionar de maneras que evaden algunos de estos controles tradicionales. Pueden estar habilitadas en navegadores, lo que las hace más difíciles de detectar y evita la necesidad de instalación. También dependen del comportamiento del flujo de trabajo humano, como el movimiento de datos entre herramientas.
Respuestas de los líderes en comunicaciones unificadas
A pesar de este entorno de TI en rápida evolución, los líderes en comunicaciones unificadas no tienen que aceptar pasivamente los riesgos que crea la IA en la sombra. La descubrimiento y visibilidad son los primeros pasos para responder a la IA en la sombra en las comunicaciones unificadas. Los equipos de TI pueden identificar los bots de IA que se unen a las reuniones, rastrear el uso de IA basado en navegadores en sus redes y monitorear los entornos de colaboración para el uso de herramientas y funciones habilitadas para IA.
Luego, la gobernanza de IA debe integrarse en las plataformas de comunicaciones unificadas, con políticas que se apliquen donde se realiza el trabajo: en chats, reuniones virtuales y colaboración en documentos. La comunicación clara con los empleados también es crítica; las organizaciones deben explicar qué herramientas de IA están aprobadas y cuáles no, y por qué.
Sin embargo, abordar la IA en la sombra no significa cerrar la experimentación con nuevas herramientas. Los líderes deben asumir que la IA estará presente en el flujo de trabajo y enfocarse en crear entornos de trabajo protegidos donde los datos sensibles permanezcan contenidos, incluso en máquinas personales.
Conclusión
En última instancia, la IA en la sombra es una señal de gobernanza. No es solo un riesgo, sino evidencia de que los empleados quieren usar estas herramientas en sus flujos de trabajo diarios. Los verdaderos desafíos para los líderes en comunicaciones unificadas son restaurar la visibilidad, incrustar la gobernanza en las plataformas de colaboración y permitir una productividad mejorada por la IA de manera segura.
