La Confianza en GenAI Aumenta Globalmente a Pesar de las Brechas en las Salvaguardias de IA
SAS, un líder global en datos e inteligencia artificial, ha revelado nueva investigación que explora el uso, impacto y confiabilidad de la IA. El Informe de Impacto de Datos e IA de IDC: El Imperativo de la Confianza, encargado por SAS, encontró que los líderes de TI y negocios reportan tener mayor confianza en la IA generativa que en cualquier otra forma de IA.
La investigación global sobre el uso y adopción de IA también encontró que solo el 40% está invirtiendo para hacer que los sistemas de IA sean confiables a través de la gobernanza, la explicabilidad y las salvaguardias éticas, a pesar de que las organizaciones que priorizan la IA confiable son 60% más propensas a duplicar el retorno de inversión (ROI) de los proyectos de IA. Paradójicamente, entre aquellos que reportan la menor inversión en sistemas de IA confiables, la IA generativa (por ejemplo, ChatGPT) se percibe como 200% más confiable que la IA tradicional (por ejemplo, machine learning), a pesar de que esta última es la forma más establecida, confiable y explicable de IA.
Confianza en las Tecnologías Emergentes de IA
En general, el estudio encontró que los despliegues de IA más confiables eran las tecnologías emergentes, como la IA generativa y la IA agente, en comparación con formas más establecidas de IA. Casi la mitad de los encuestados (48%) reportaron “confianza completa” en la IA generativa, mientras que un tercio expresó lo mismo por la IA agente (33%). La forma de IA menos confiable es la IA tradicional, con menos de uno de cada cinco (18%) indicando confianza total.
A pesar de reportar alta confianza en la IA generativa y la IA agente, los encuestados expresaron preocupaciones, incluyendo la privacidad de datos (62%), la transparencia y explicabilidad (57%), y el uso ético (56%).
Mientras tanto, la IA cuántica está ganando confianza rápidamente, a pesar de que la tecnología para ejecutar la mayoría de los casos de uso aún no se ha realizado completamente. Casi un tercio de los tomadores de decisiones globales dicen estar familiarizados con la IA cuántica, y el 26% reporta confianza total en la tecnología, a pesar de que las aplicaciones en el mundo real aún están en etapas tempranas.
Brechas en las Salvaguardias de IA Debilitan el Impacto de la IA
El estudio mostró un rápido aumento en el uso de IA, particularmente de la IA generativa, que ha superado rápidamente a la IA tradicional en visibilidad y aplicación (81% vs. 66%). Esto ha suscitado un nuevo nivel de riesgos y preocupaciones éticas.
A través de todas las regiones, los investigadores de IDC identificaron un desajuste en cuánto las organizaciones confían en la IA versus cuán confiable es realmente la tecnología. Según el estudio, mientras que casi 8 de cada 10 (78%) organizaciones afirman confiar plenamente en la IA, solo el 40% ha invertido para hacer que los sistemas sean demostrablemente confiables a través de la gobernanza de IA, la explicabilidad y las salvaguardias éticas.
El estudio también mostró una baja prioridad asignada a la implementación de medidas de IA confiable al operacionalizar proyectos de IA. Entre las tres principales prioridades organizacionales de los encuestados, solo el 2% seleccionó desarrollar un marco de gobernanza de IA, y menos del 10% reportó desarrollar una política de IA responsable. Sin embargo, depriorizar las medidas de IA confiable puede estar impidiendo que estas organizaciones realicen completamente sus inversiones en IA a largo plazo.
Fundaciones de Datos Débiles y Gobernanza Detienen la IA
A medida que los sistemas de IA se vuelven más autónomos y se integran profundamente en procesos críticos, las fundaciones de datos también se vuelven más importantes. La calidad, diversidad y gobernanza de los datos influyen directamente en los resultados de la IA, haciendo que las estrategias de datos inteligentes sean esenciales para realizar beneficios (por ejemplo, ROI, aumentos de productividad) y mitigar riesgos.
El estudio identificó tres grandes obstáculos que impiden el éxito en las implementaciones de IA: infraestructura de datos débil, gobernanza deficiente y falta de habilidades en IA. Casi la mitad (49%) de las organizaciones citan fundaciones de datos que no son centralizadas o entornos de datos en la nube no optimizados como una barrera importante. Esta preocupación principal fue seguida por una falta de procesos de gobernanza de datos suficientes (44%) y una escasez de especialistas capacitados dentro de su organización (41%).
Los encuestados reportaron que el principal problema con la gestión de los datos utilizados en las implementaciones de IA es la dificultad para acceder a fuentes de datos relevantes (58%). Otras preocupaciones principales incluyeron problemas de privacidad y cumplimiento de datos (49%) y calidad de datos (46%).
“Para el bien de la sociedad, los negocios y los empleados, la confianza en la IA es imperativa”, dijo un experto del sector. “Para lograr esto, la industria de IA debe aumentar la tasa de éxito de las implementaciones, los humanos deben revisar críticamente los resultados de la IA, y el liderazgo debe empoderar a la fuerza laboral con IA.”
Para una exploración más profunda de los resultados de la encuesta, consulte el panel interactivo aquí.
SAS Innovate 2026 – una experiencia única para líderes empresariales, usuarios técnicos y socios de SAS – se celebrará del 27 al 30 de abril de 2026 en Grapevine, Texas. Visite el sitio web de SAS Innovate para más información y para reservar la fecha.
