IBM Enfrenta la IA Sombra: Un Punto Ciego en las Empresas
Con la explosión del uso de la IA para construir rápidamente aplicaciones en el ámbito empresarial, IBM ha introducido herramientas para ayudar a las organizaciones a gestionar los sistemas y agentes de IA de los que pueden no ser conscientes.
Recientemente, IBM lanzó lo que llama el “primer software de la industria para unificar la gobernanza y la seguridad de los agentes”, que integra watsonx.governance y Guardium AI Security para ayudar a las empresas a mantener sus sistemas de IA, incluidos los agentes, asegurados y responsables a gran escala.
Watsonx.governance es la herramienta de gobernanza de IA de extremo a extremo de IBM, mientras que Guardium AI Security es su herramienta para asegurar modelos de IA, datos y su uso.
El Desafío de la IA Sombra
Al igual que su predecesora, la IA sombra incluye zonas de uso de tecnología no gobernada dentro de una organización, en este caso, sistemas de IA. Esto representa un desafío creciente a medida que las herramientas de IA se vuelven más accesibles y los empleados pueden construir sistemas autónomos con mínima experiencia técnica.
La Escala del Problema
Investigaciones recientes de Zoho a través de ManageEngine muestran que el 60% de los empleados están utilizando herramientas de IA no aprobadas más que hace un año, con un 93% admitiendo que han ingresado información en herramientas de IA sin aprobación. Además, el 32% de los empleados ha ingresado datos confidenciales de clientes y un 37% ha ingresado datos internos privados sin confirmar la aprobación de la empresa.
También hay un desconexión entre el liderazgo de TI y los empleados, ya que el 97% de los tomadores de decisiones de TI ven riesgos significativos en la IA sombra, pero el 91% de los empleados encuestados no perciben ningún riesgo o creen que cualquier riesgo es superado por las recompensas.
Por Qué la IA Sombra es Diferente
Los agentes de IA son la nueva tendencia, y son más accesibles para los empleados que incluso la IA generativa. Los empleados tienen la capacidad de construir agentes en pocos días a través de aplicaciones de negocio como Salesforce o Workday.
Esta accesibilidad distingue a la IA sombra de la TI sombra tradicional. Mientras que la TI sombra típicamente involucra el uso no autorizado de software o servicios, la IA sombra permite a los empleados crear sistemas que pueden operar con mínima supervisión humana.
El Impacto Empresarial
Las organizaciones enfrentan presión desde múltiples ángulos. La investigación de ManageEngine muestra que el 85% de los tomadores de decisiones de TI informan que los empleados adoptan herramientas de IA más rápido de lo que sus equipos de TI pueden evaluarlas. Mientras tanto, el 53% dice que el uso de dispositivos personales para tareas relacionadas con la IA está creando puntos ciegos de seguridad.
Las consecuencias son reales y medibles. Los tomadores de decisiones de TI identifican la filtración o exposición de datos como el principal riesgo de la IA sombra, afectando al 63% de las organizaciones.
El Desafío de la Detección
Identificar la IA sombra requiere enfoques novedosos. Las herramientas de monitoreo de TI tradicionales no fueron diseñadas para detectar agentes de IA que pueden estar incrustados en aplicaciones comerciales o ejecutándose en entornos de nube.
IBM ha introducido nuevas capacidades a Guardium AI Security a través de una colaboración con AllTrue.ai, incluyendo la capacidad de detectar nuevos casos de uso de IA en entornos de nube, repositorios de código y sistemas incrustados.
Prohibir el Uso de IA No Autorizada?
No se trata simplemente de prohibir el uso no autorizado de la IA. Los empleados recurren a estas herramientas para obtener ganancias legítimas en productividad. La clave es establecer marcos de gobernanza comprensivos que puedan escalar con la adopción de IA.
Convertir el Desafío en Oportunidad
Las organizaciones necesitan cambiar de una detección reactiva a una gestión proactiva. Los líderes de TI deben construir ecosistemas de IA transparentes, colaborativos y seguros que los empleados se sientan empoderados para usar.
El Futuro de la IA Sombra
A medida que la IA continúa evolucionando, es probable que la IA sombra se vuelva más sofisticada y difícil de detectar. El objetivo no es eliminar la IA sombra por completo, sino transformarla de un pasivo oculto en un activo visible, manejable y estratégico.
