Empresas, Cuidado con el Teatro de Gobernanza de IA
Las herramientas impulsadas por IA están proliferando en toda la empresa, con asistentes de IA escribiendo código y respondiendo preguntas de clientes. Las aplicaciones de inteligencia empresarial están minando vastas cantidades de datos para obtener insights estratégicos, y los agentes de IA emergentes están comenzando a tomar decisiones de manera autónoma.
En medio de estas innovaciones, las empresas están dirigiendo su atención hacia la gobernanza de IA —los procesos, estándares y regulaciones que ayudan a garantizar que los sistemas de IA sean seguros y éticos.
La gobernanza de IA permite a las empresas monitorear los sistemas de IA en cuanto a rendimiento, latencia y problemas de seguridad. Ayuda a mitigar serios riesgos de IA, como sesgo, deriva y alucinaciones. También ayuda a las empresas a permanecer en cumplimiento en un momento en que las regulaciones y estándares de IA están creciendo en número, complejidad y severidad. Las violaciones de cumplimiento con la Ley de IA de la UE, por ejemplo, pueden resultar en multas de hasta el siete por ciento de la facturación anual. En resumen, la gobernanza de IA permite a las empresas escalar e innovar con IA de manera responsable.
No hay escasez de líderes empresariales que proclaman la importancia de la gobernanza de IA. Hablar sobre guardrails robustos de IA y la urgente necesidad de mitigar el sesgo, la deriva, la toxicidad y la opacidad es común.
Sin embargo, las inversiones reales en gobernanza de IA a menudo no coinciden con las inversiones en la propia tecnología de IA. En una encuesta reciente, solo el 21% de los ejecutivos afirmaron que los esfuerzos de gobernanza de IA de su organización son sistémicos o innovadores. Mientras tanto, solo el 29% de los CROs y CFOs dijeron que están abordando adecuadamente los riesgos regulatorios y de cumplimiento de IA.
Esta disonancia se podría llamar «teatro de gobernanza de IA». Y tiene consecuencias serias.
Gobernanza Informal
A menudo encuentro empresas que adoptan un enfoque informal hacia la gobernanza de IA. En lugar de políticas detalladas y tecnología tangible, las organizaciones crean cartas de alto nivel que citan valores y principios, pero no ofrecen detalles sobre cómo operacionalizarlos. De manera similar, algunas empresas convocan comités de revisión ética pero no los equipan con mecanismos para tomar acción.
Esbozar valores centrales como la equidad y la explicabilidad es un primer paso importante, pero no un resultado final. Las empresas deben transformar esos valores en acción, implementándolos, haciéndolos cumplir y midiéndolos. Por ejemplo, las empresas necesitan tecnología para determinar si la IA está generando respuestas relevantes y fieles. Necesitan tecnología que restrinja automáticamente las salidas de IA que sean odiosas o profanas. Y necesitan herramientas que puedan llegar a la raíz de estos problemas.
La gobernanza informal falla al no aplicar las mejores prácticas de adopción de IA responsable de manera consistente en toda la empresa. ¿El resultado? Las organizaciones luchan por crear una cultura de adopción responsable de IA. Esto crea riesgos: los sistemas de IA inadecuadamente gobernados pueden tomar decisiones incorrectas e injustas, perjudicando tanto a las empresas como a los clientes.
Gobernanza Ad Hoc
Otras empresas adoptan un enfoque ad hoc hacia la gobernanza de IA. Tienen políticas y herramientas, pero las despliegan de manera inconsistente y reactiva. Es táctico; no hay una estrategia más amplia en juego.
La gobernanza ad hoc significa aplicar políticas a algunos casos de uso de IA, a menudo utilizando un enfoque silo. Mientras tanto, un pequeño grupo de personal elabora el enfoque de gobernanza de IA, en lugar de un rango de partes interesadas que pueden aportar perspectivas únicas. Y, día a día, el personal técnico debe lidiar con un conjunto fragmentado e incompleto de herramientas. El seguimiento del rendimiento de IA se realiza de forma manual y según sea necesario, en lugar de ser automatizado y perpetuo. Los errores humanos, el tiempo desperdiciado y las oportunidades perdidas se acumulan.
Los enfoques ad hoc también dejan a las empresas vulnerables a la IA en la sombra, sistemas de IA no sancionados que pueden operar dentro de una empresa. Aumentan la probabilidad de violaciones de cumplimiento.
El Enfoque Correcto: Gobernanza Formal
Un enfoque de gobernanza de IA formal acopla un marco integral reforzado por flujos de trabajo automatizados para impulsar las mejores prácticas en toda la empresa, además de estar fortalecido con monitoreo y cumplimiento regulares y automatizados. Las empresas conectan sus objetivos de alto nivel con herramientas que sobresalen en evaluaciones de riesgo y cumplimiento de IA. Las empresas también integran la gobernanza de IA con dominios relacionados, como la seguridad de IA.
La gobernanza formal adopta un enfoque de multidestinatario. Una variedad de disciplinas ayudan a informar la gobernanza: legal, ingeniería, seguridad, gestión de riesgos, cumplimiento, TI, privacidad de datos, recursos humanos y otros. Todos los miembros de una organización, desde el CEO hasta los pasantes, están capacitados en gobernanza de IA: qué herramientas usar, cuándo y cómo escalar problemas potenciales.
La gobernanza formal acelera en lugar de ralentizar la innovación de IA. Permite a las empresas escalar la IA de manera responsable y equipa a los desarrolladores con insights ricos sobre cómo se comportan sus sistemas de IA y por qué.
La IA está creciendo más omnipresente y poderosa en la empresa. Según Gartner, para 2028, los agentes de IA tomarán el 15% de las decisiones diarias de las empresas. Esto significa que sin una gobernanza adecuada, un tercio de las decisiones empresariales podría implicar riesgos innecesarios.
Más que nunca, las empresas necesitan alejarse del teatro de gobernanza de IA y avanzar hacia la realidad.
