Construyendo Confianza en la IA: El Caso de la Transparencia
La inteligencia artificial (IA) está transformando rápidamente el mundo empresarial, ya que se entrelaza cada vez más con el tejido de las organizaciones y la vida cotidiana de los clientes. Sin embargo, la velocidad de esta transformación crea riesgos, ya que las organizaciones enfrentan desafíos relacionados con la implementación de la IA de manera responsable y que minimice el riesgo de daño.
La Importancia de la Transparencia
Uno de los pilares fundamentales de la IA responsable es la transparencia. Los sistemas de IA, incluidos los algoritmos y las fuentes de datos, deben ser comprensibles para que podamos entender cómo se toman las decisiones y garantizar que se realicen de manera justa, imparcial y ética. Actualmente, muchas empresas que utilizan IA están tomando medidas para asegurar que esto suceda. Sin embargo, ha habido casos en los que el uso de la IA ha sido preocupantemente opaco.
Ejemplos de IA Transparente
Cuando se lanzó el conjunto de herramientas de IA generativa Firefly de Adobe, la empresa tranquilizó a los usuarios al asegurar que era abierta y transparente sobre los datos utilizados para entrenar sus modelos. A diferencia de otras herramientas de IA generativa, como Dall-E de OpenAI, Adobe publicó información sobre todas las imágenes utilizadas, junto con la garantía de que poseía todos los derechos sobre estas imágenes o que estaban en el dominio público. Esto permite a los usuarios tomar decisiones informadas sobre si confiar en que su herramienta no ha sido entrenada de manera que infrinja derechos de autor.
Salesforce incluye la transparencia como un elemento importante de “exactitud”, uno de sus cinco lineamientos para desarrollar IA confiable. Esto significa que toman medidas para dejar claro cuando la IA proporciona respuestas de las que no están completamente seguros. Esto incluye citar fuentes y resaltar áreas que los usuarios de sus herramientas podrían querer verificar para asegurarse de que no ha habido errores.
El SDK de Python de Microsoft para Azure Machine Learning incluye una función llamada explicabilidad del modelo, que en las versiones recientes se establece en “verdadero” por defecto. Esto proporciona a los desarrolladores información sobre la interpretabilidad, lo que significa que pueden entender las decisiones y asegurar que se tomen de manera justa y ética.
Ejemplos de Falta de Transparencia en IA
OpenAI, creadores de ChatGPT y Dall-E, ha sido acusado de falta de transparencia respecto a los datos utilizados para entrenar sus modelos. Esto ha llevado a demandas de artistas y escritores que alegan que su material fue utilizado sin permiso. Algunos creen que los usuarios de OpenAI podrían enfrentar acciones legales en el futuro si los titulares de derechos de autor logran argumentar con éxito que el material creado con la ayuda de las herramientas de OpenAI también infringe sus derechos de propiedad intelectual.
Otros generadores de imágenes, incluidos Imagen de Google y Midjourney, han sido criticados por representar desproporcionadamente a los profesionales como hombres blancos y por inexactitudes históricas, como mostrar a los Padres Fundadores de EE. UU. y a soldados nazis alemanes como personas de color. La falta de transparencia en la toma de decisiones de IA dificulta que los desarrolladores identifiquen y solucionen fácilmente estos problemas.
En el ámbito de la banca y los seguros, la IA se utiliza cada vez más para evaluar riesgos y detectar fraudes. Si estos sistemas no son transparentes, podría llevar a que los clientes se les niegue crédito, se bloqueen transacciones o incluso enfrenten investigaciones criminales sin entender por qué han sido seleccionados o puestos bajo sospecha.
Más preocupante aún es la falta de transparencia en los sistemas y datos utilizados en la atención médica. A medida que la IA se usa cada vez más para tareas rutinarias, como detectar signos de cáncer en imágenes médicas, los datos sesgados pueden llevar a errores peligrosos y peores resultados para los pacientes. Sin medidas en su lugar para asegurar la transparencia, es menos probable que se identifiquen y eliminen los datos sesgados de los sistemas utilizados para entrenar herramientas de IA.
Los Beneficios de la IA Transparente
Asegurar que la IA se implemente de manera transparente es esencial para construir confianza con los clientes. Ellos quieren saber qué, cómo y por qué se están tomando decisiones con sus datos y tienen una desconfianza inherente hacia las máquinas “caja negra” que se niegan a explicar lo que están haciendo.
Además, permite identificar y eliminar problemas que pueden ser causados por datos sesgados, asegurando que todos los datos utilizados sean auditados y depurados exhaustivamente.
Por último, la cantidad de regulación en torno a la IA está aumentando. Legislaciones como la próxima Ley de IA de la UE establecen que los sistemas de IA en casos de uso crítico deben ser transparentes y explicables. Esto significa que las empresas que utilicen IA opaca, de caja negra, podrían exponerse a grandes multas.
Construir transparencia y responsabilidad en los sistemas de IA se considera cada vez más una parte crítica del desarrollo de IA ética y responsable. Aunque la naturaleza altamente compleja de los modelos de IA avanzados de hoy en día significa que esto no siempre es sencillo, es un desafío que debe superarse si la IA va a cumplir su potencial para crear un cambio positivo y valor.
