La Ética de la IA: Comienza con Innovadores Responsables y Gobernanza de la IA
La inteligencia artificial (IA) se ha convertido en una parte integral de las empresas modernas, pero su uso generalizado plantea desafíos éticos y de gobernanza. Según Reggie Townsend, vicepresidente de la Práctica de Ética de Datos de SAS, el 58% de los empleados utilizan regularmente IA generativa (GenA) y el 60% de ellos lo hacen sin la participación de la empresa, lo que aumenta el riesgo organizacional.
La Importancia de la Gobernanza de la IA
Durante el evento SAS Innovate 2025 en Orlando, Florida, se enfatizó repetidamente que la ética y la gobernanza son ingredientes vitales para la implementación de la IA en las empresas. Townsend afirmó que «la innovación responsable comienza antes de que se escriba la primera línea de código». La gobernanza de la IA ofrece un marco y un conjunto de herramientas para asegurar que la IA sea confiable, protegiendo así a la organización y actuando como un catalizador para la innovación.
La IA refleja tanto lo bueno como lo malo de la humanidad. Puede ser un multiplicador de la ingenuidad humana o de la frailty humana; tiene la capacidad de ayudar a la humanidad a crear un mundo mejor o de sumergirnos en el crimen, el engaño e incluso el colapso social. «Necesitamos asegurarnos de que la IA nos ayude a experimentar un mundo mejor, y eso comienza con innovadores responsables y la gobernanza de la IA», agregó Townsend.
Inversiones en Gobernanza de la IA
Según encuestas de McKinsey, el 42% de las organizaciones informaron que la IA mejoró sus operaciones, y el 34%% mencionó que la IA aumentó la confianza del cliente. No es sorprendente que el 25% de las grandes empresas planeen invertir fuertemente en soporte de gobernanza de IA.
Townsend destacó SAS Viya, que cuenta con características de gobernanza integradas, como el recientemente lanzado Mapa de Gobernanza de IA, que se ofrece de forma gratuita a los usuarios de SAS. Este mapa permite a las organizaciones evaluar su madurez actual en gobernanza de IA en cuatro áreas y trazar un camino a seguir.
Gobernanza de la IA en el Sector Salud
La gobernanza de la IA es particularmente relevante en el sector salud. Mubaraka Ibrahim, oficial jefe de IA de Emirates Health Services en los Emiratos Árabes Unidos, destacó que su país está a la vanguardia en la implementación de IA. Desde 2017, se ha nombrado a un ministro de IA, se ha establecido una universidad de IA para capacitar a miles de expertos y se han asignado 22 Chief AI Officers en diferentes sectores.
Emirates Health Services opera más de 130 instalaciones y planea utilizar la IA para convertirse en uno de los mejores proveedores de atención médica del mundo. Su plataforma de inteligencia utiliza 40 modelos de IA para predicciones y análisis, incluyendo la predicción de riesgo de mortalidad para pacientes en cuidados intensivos.
Dr. Michel van Genderen del Centro Médico Erasmus en los Países Bajos, explicó cómo la IA está ayudando a su organización a manejar una demanda significativamente mayor en medio de una escasez de personal. «Utilizamos la IA para rediseñar la forma en que trabajamos dentro de un marco de gobernanza responsable», afirmó.
Conclusión
La ética y la gobernanza de la IA son esenciales para asegurar que esta tecnología se utilice de manera responsable y efectiva. Las organizaciones deben adoptar un enfoque proactivo para establecer guardrails que garanticen decisiones rápidas pero confiables en el uso de la IA.
