Gobernanza de la IA: Lo que los consejos deben considerar
Según una evaluación, la inteligencia artificial (IA) aumenta drásticamente el ritmo operativo de una organización. Este cambio en la velocidad requiere una buena gobernanza de la IA.
La conexión entre el uso de la IA y el propósito de la empresa
Existe un vínculo directo entre el propósito de una empresa y su uso de la IA. Esto hace que sea particularmente importante que los consejos establezcan un tono estratégico. Aunque la conformidad con las leyes sea un asunto legal, operar de manera ética es igualmente crucial.
A pesar del rápido avance, los usuarios deben tener en cuenta que las herramientas de IA son propensas a sesgos y a alucinaciones. Algunas aplicaciones representan altos riesgos y no siempre son explicables. La IA puede cambiar la naturaleza de la toma de decisiones dentro de las organizaciones, especialmente si se utiliza IA agente, donde no hay humanos involucrados. Además, el comportamiento de la IA puede cambiar con el tiempo, lo que acentúa sesgos en los modelos subyacentes.
La necesidad de que los miembros del consejo comiencen a usar IA
La adaptación de los roles dentro de la gobernanza de la IA todavía está en desarrollo. Una cultura de miedo está obstaculizando el progreso en muchas empresas, donde se restringe el uso de herramientas de IA a los empleados que podrían beneficiarse. La forma de superar ese miedo es comprender mejor cómo funcionan estas herramientas y qué pueden lograr de manera responsable.
La alfabetización en IA es clave
La capacitación en alfabetización en IA se citó como una base para una buena gobernanza. Esta alfabetización es requerida legalmente en algunas regulaciones. Entender los conjuntos de datos será un gran activo para los profesionales al evaluar los resultados de la IA.
Cuestiones éticas: sostenibilidad e igualdad
Las organizaciones deben considerar temas éticos clave. Por ejemplo, si los agentes de servicio al cliente son reemplazados por IA, deberían convertirse en constructores de sistemas que mejoren continuamente el software. Además, es importante establecer reglas que distingan entre tareas que requieren modelos de razonamiento profundo y aquellas que pueden resolverse con búsquedas rápidas.
En términos de igualdad, es crucial incluir ideas de diversos antecedentes en las decisiones sobre la gobernanza de la IA. Actualmente, la composición de muchos consejos sigue estando sesgada hacia un solo grupo demográfico.
Conclusión
Las normas y guías existentes pueden ayudar a los consejos en los componentes clave de la gobernanza de la IA, desde políticas de IA hasta la gestión de riesgos. Comprender y adoptar la IA de manera responsable es fundamental para las organizaciones en el futuro.
