Este artículo aborda los conceptos de transparencia, explicabilidad e interpretabilidad en la inteligencia artificial, destacando la importancia de definir estos términos y cómo evaluarlos. A través de un análisis de diversas recomendaciones y marcos de certificación, se presentan definiciones útiles y recomendaciones prácticas para su implementación.
El 10 de julio de 2025, la Comisión Europea publicó la versión final del Código de Práctica para la IA de Propósito General, tres semanas antes de que entren en vigor las obligaciones relacionadas con los modelos de IA de propósito general bajo la Ley de IA de la UE. Aunque el cumplimiento del Código es voluntario, se espera que las organizaciones que lo sigan experimenten una «carga administrativa reducida» en comparación con aquellas que busquen demostrar el cumplimiento de otra manera.
En 2018, se reveló que el Departamento de Policía de Nueva Orleans estaba utilizando un software de policía predictiva de Palantir, lo que generó preocupaciones sobre el sesgo racial. Este caso destacó una importante laguna en las reglas de adquisición de la ciudad, ya que el software fue donado y evitó los procesos de supervisión habituales.
La inteligencia artificial generativa (GenAI) ya está profundamente integrada en las empresas, aunque los gerentes no siempre se dan cuenta. Esto se conoce como Shadow AI: el uso no aprobado y no supervisado de herramientas de GenAI que a menudo pasa desapercibido.
La Autoridad de Cultura y Artes de Dubái ha sido nombrada ganadora del Mejor Marco de Gobernanza de IA de 2025 durante el Foro y Premios de Innovación GovTech. Este reconocimiento celebra las iniciativas impulsadas por la IA de Dubai Culture que han mejorado la accesibilidad cultural y la participación pública.
La inteligencia artificial y las regulaciones están avanzando rápidamente, lo que genera demandas de cumplimiento complejas y cambiantes a nivel global, nacional y local. Adoptar prácticas de IA responsable ayuda a mitigar riesgos, reducir deudas técnicas futuras y fortalecer la confianza del consumidor.
Más de 50 organizaciones advirtieron sobre los riesgos de retrasar la implementación de la Ley de IA, indicando que esto socavaría los mecanismos de responsabilidad clave. También expresaron su preocupación por la presión creciente para suspender la aplicación de la ley, enfatizando que cualquier simplificación no debe desmantelar las protecciones legales adquiridas.
La gobernanza de la inteligencia artificial (IA) es un tema emergente que implica aceptar la responsabilidad personal por los problemas y resultados relacionados con la IA. Es esencial establecer políticas de gobernanza que garanticen un desarrollo y uso responsable de la IA, abordando cuestiones como la ética, la transparencia y la rendición de cuentas.
La inteligencia artificial (IA) está revolucionando la atención médica, y la oncología no es una excepción. Actualmente se están evaluando implementaciones de IA en todas las etapas del viaje del paciente con cáncer, desde el emparejamiento de ensayos clínicos hasta el apoyo en la toma de decisiones del equipo de atención.
Cuando se habla de «IA responsable», generalmente se refiere a la ética: equidad, privacidad, sesgo. Sin embargo, eso no es toda la historia, ya que la IA responsable también requiere control, claridad y rendimiento para garantizar que no cause daño.