El Aumento de Disputas Legales en Empresas Tecnológicas Debido a Violaciones Regulatorias de IA
Un estudio reciente de Gartner predice que, para el año 2028, las violaciones regulatorias de IA resultarán en un aumento del 30% en las disputas legales de las empresas tecnológicas. Esta información se basa en una encuesta realizada entre 360 líderes de TI involucrados en la implementación de herramientas de IA generativa (GenAI).
Desafíos en el Cumplimiento Regulatorio
Más del 70% de los encuestados indicaron que el cumplimiento regulatorio es uno de los tres principales desafíos para la implementación de asistentes de productividad GenAI en sus organizaciones. Solo el 23% de los líderes de TI se mostró muy confiado en la capacidad de su organización para gestionar los componentes de seguridad y gobernanza al implementar estas herramientas en aplicaciones empresariales.
Inconsistencias Globales en la Regulación de IA
Según Lydia Clougherty Jones, analista sénior de Gartner, las regulaciones globales de IA varían ampliamente, reflejando la evaluación de cada país sobre la alineación adecuada de liderazgo en IA, innovación y agilidad con las prioridades de mitigación de riesgos. Esto genera obligaciones de cumplimiento incoherentes, complicando la alineación de la inversión en IA con el valor empresarial demostrable y repetible, lo que podría abrir a las empresas a otras responsabilidades.
Impacto del Clima Geopolítico
El impacto del clima geopolítico está en aumento, pero la capacidad de respuesta es insuficiente. En la misma encuesta, el 57% de los líderes de TI no estadounidenses señalaron que el clima geopolítico influye al menos moderadamente en la estrategia y despliegue de GenAI. Sin embargo, casi el 60% de estos encuestados reportaron que no pudieron o no quisieron adoptar alternativas de herramientas GenAI no estadounidenses.
Sentimiento hacia la Soberanía de IA
En una reciente encuesta durante un seminario web organizado por Gartner, el 40% de los 489 encuestados indicó que el sentimiento de su organización hacia la soberanía de IA es “positivo” (esperanza y oportunidad), mientras que el 36% adoptó un enfoque “neutral” (esperar y ver). Además, el 66% de los encuestados señaló que estaban proactivos y/o comprometidos en respuesta a la estrategia soberana de IA.
Recomendaciones para Líderes de TI
Gartner instó a los líderes de TI a fortalecer la moderación de los resultados entrenando modelos para que se autocorrijan, creando procedimientos de revisión de casos de uso rigurosos que evalúen riesgos y utilizando pruebas de control en el habla generada por IA. También se recomendó aumentar las pruebas y el sandboxing de modelos, formando un equipo interdisciplinario de ingenieros de decisiones, científicos de datos y asesores legales para diseñar protocolos de pre-prueba y validar la salida del modelo contra resultados conversacionales no deseados.
