El Imperativo Moderno del ROI: Despliegue de IA, Seguridad y Gobernanza
La integración de la inteligencia artificial (IA) en los procesos empresariales no se limita solo a la tecnología y los métodos de despliegue. Es fundamental que los procesos internos se modifiquen para aprovechar al máximo la IA y para proteger mejor a la empresa que utiliza la IA a diario.
Gobernanza y Riesgo
Las organizaciones deben actualizar sus marcos de gobernanza, establecer arquitecturas seguras y aprovechar una nueva generación de especialistas para garantizar que la IA y los datos asociados se utilicen de manera segura y responsable. Esto incluye la detección y corrección de sesgos, pruebas para alucinaciones, la imposición de guardrails y la gestión de dónde y por quién se utiliza la IA.
Kieran Norton, líder de IA y Automatización Cibernética de Deloitte, establece un paralelismo con la adopción de la nube, señalando que la comprensión de las ventajas de la IA es crucial, aunque el proceso de adopción pueda variar entre las empresas.
Casos de Uso Adecuados
Norton recomienda que las empresas comiencen con implementaciones de IA más pequeñas y de menor riesgo. Aunque los chatbots han sido uno de los primeros usos visibles de la IA, es importante diferenciar entre un chatbot que responde preguntas y los agentes que pueden activar interacciones con las aplicaciones y servicios de la empresa.
Los instancias de IA agentes que enfrentan al cliente presentan un riesgo significativamente mayor, ya que un error puede tener efectos importantes en la marca. Por ejemplo, si un agente está ejecutando transacciones financieras o tomando decisiones basadas en la cobertura de salud, ese no es el primer caso de uso que se debería probar.
Desafíos en la Era de la IA
Las preguntas fundamentales sobre infraestructura, visibilidad de datos, seguridad y soberanía de datos son más relevantes que nunca en la era de la IA. Las discusiones sobre IA tienden a centrarse en problemas comunes, lo que resalta la necesidad de un enfoque amplio y profundo sobre cómo la IA impacta en la infraestructura operativa de la empresa.
Conclusión
Para los profesionales de negocios que investigan los usos de la IA en sus organizaciones, la recomendación es no construir un programa de evaluación y gestión de riesgos de IA desde cero. En lugar de eso, se debe evolucionar los sistemas existentes, tener un entendimiento claro de cada caso de uso y evitar la trampa de construir para un valor teórico.
El éxito en la IA comienza con objetivos claros y realistas que se basen en fundamentos sólidos.
