Los Problemas y Soluciones de los CEO al Malinterpretar las Preocupaciones sobre la IA
Un estudio reciente ha revelado múltiples problemas entre las perspectivas de los ejecutivos y sus planes relacionados con la IA empresarial, proponiendo marcos que conducen al éxito de la IA.
Se ha encontrado una brecha significativa entre la comprensión que tienen los CEO sobre las preocupaciones públicas respecto a la IA y la realidad de estas preocupaciones. Según el estudio, muchos ejecutivos están desinformados sobre los problemas que realmente importan a los consumidores.
La Desconexión entre Ejecutivos y Consumidores
Cuando se compararon las respuestas de los ejecutivos con una encuesta separada de más de 15,000 consumidores en 15 países, se descubrió que la brecha era mayor de lo esperado. En casi todas las medidas de IA responsable, desde la precisión de los datos hasta la protección de la privacidad, las personas comunes estaban aproximadamente dos veces más preocupadas que los CEO.
Esta desconexión es tanto académica como amenazante, ya que podría socavar el auge de la IA, valorado en miles de millones de libras, mientras las empresas invierten recursos en tecnologías que los consumidores podrían rechazar.
Un Problema Clave: La Sobrerreacción de los Adoptantes de IA
A pesar de que las empresas han estado compitiendo para integrar modelos de lenguaje grandes (LLM) en todo, desde el servicio al cliente hasta la planificación financiera, la investigación sugiere que lo están haciendo sobre cimientos de confianza pública inestables.
Por ejemplo, en el tema de las pérdidas de empleo, tanto los ejecutivos como los consumidores clasifican esta preocupación relativamente baja, a pesar de los años de cobertura mediática sobre la IA reemplazando trabajadores. En cambio, el público muestra preocupación por la desinformación generada por la IA, el potencial de manipulación y la explotación de personas vulnerables.
Los Principios de EY para Cerrar las Brechas de Gobernanza de IA
En respuesta a estos hallazgos, se ha desarrollado un marco de IA responsable de nueve puntos que aborda las áreas específicas donde las empresas están fallando. Los principios abarcan:
- Responsabilidad
- Protección de datos
- Fiabilidad
- Seguridad
- Transparencia
- Explicabilidad
- Equidad
- Cumplimiento
- Sostenibilidad
Este marco aborda directamente las preocupaciones de los consumidores. Mientras que la protección de datos asegura que los sistemas de IA mantengan la confidencialidad de la información personal, la transparencia requiere divulgaciones adecuadas sobre el propósito y diseño del sistema de IA.
La Próxima Ola de IA Amplificando los Problemas de Gobernanza
Las empresas se están preparando para sistemas de IA agentiva, que pueden tomar decisiones y acciones sin supervisión humana. Sin embargo, más de la mitad de los ejecutivos encuestados admiten que sus actuales enfoques de gestión de riesgos no pueden manejar estos sistemas más poderosos.
EY afirma que, en promedio, las empresas solo mantienen controles sólidos en tres de las nueve áreas clave de IA responsable.
Una Oportunidad Competitiva en la Brecha de Confianza
A pesar de la brecha entre la comprensión de las preocupaciones sobre la IA por parte de los CEO y otros ejecutivos, hay un aspecto positivo: los CEO parecen estar más en sintonía con el sentimiento público sobre la IA responsable.
Esto sugiere un problema de comunicación dentro de las empresas. Si los CEO entienden los problemas pero otros ejecutivos no, indica una falla en la transmisión de estas preocupaciones a través de la organización.
Para abordar estos desafíos, se propone un enfoque de tres pasos que va más allá de la gestión de riesgos tradicional: escuchar, actuar y comunicar.
Al hacer de la IA responsable un punto central de la estrategia de la marca, las empresas pueden destacarse ante sus competidores y posicionarse favorablemente ante sus clientes actuales y potenciales.
