La SB 53, conocida como la histórica ley de transparencia en inteligencia artificial, entró oficialmente en vigor en California. Esta ley requiere que los desarrolladores de IA grandes publiquen un marco que describe cómo integran las normas nacionales e internacionales y las prácticas aceptadas en su marco de IA fronterizo.
A medida que la adopción de la inteligencia artificial generativa se acelera, también lo hacen los riesgos asociados. Las herramientas de gobernanza de IA ofrecen una forma de gestionar estos riesgos, y en colaboración con Tokio Marine Group, hemos diseñado un proceso de evaluación estructurado para identificar las soluciones más efectivas.
Los recientes desarrollos en inteligencia artificial (IA) están revolucionando casi todos los aspectos de nuestras vidas y pueden ayudar a mejorar problemas globales como el mantenimiento de la paz y la respuesta humanitaria. Sin embargo, si se malutiliza, la IA puede representar una amenaza potencial para la paz y la seguridad internacional.
Los sistemas de toma de decisiones automatizadas (ADM) se utilizan para reemplazar o apoyar la toma de decisiones humanas, con el objetivo de mejorar la precisión y la eficiencia. Las regulaciones europeas, como el GDPR y la Ley de IA, buscan garantizar la equidad sustantiva y procesal en estas decisiones automatizadas, incluyendo el derecho a una explicación clara sobre el proceso de toma de decisiones.
Los legisladores de California han hecho historia al aprobar una ley pionera sobre la transparencia en inteligencia artificial que se centra en los «modelos fronterizos», los sistemas de inteligencia artificial más avanzados en desarrollo. Esta legislación, conocida como la Ley de Transparencia en Inteligencia Artificial Fronteriza, establece nuevos requisitos para la transparencia y la gobernanza de riesgos, mientras busca fomentar la innovación y proteger los derechos civiles.
La UE está trabajando en la creación de pautas y un Código de Práctica que definan las obligaciones de transparencia para ciertos tipos de sistemas de IA, incluyendo la categorización biométrica y los sistemas de reconocimiento emocional. Se invita a los interesados a compartir sus opiniones a través de una consulta abierta hasta el 2 de octubre.
Este documento explora cómo la explicabilidad en la inteligencia artificial ayuda a construir confianza y asegurar la responsabilidad, desde principios fundamentales hasta casos prácticos. Se concluye que la inteligencia artificial explicable no es un lujo, sino un criterio fundamental para cualquier IA confiable.
La inteligencia artificial se está convirtiendo rápidamente en una parte esencial de nuestras vidas diarias, transformando sectores como la salud y las finanzas. Sin embargo, su adopción generalizada presenta desafíos de gobernanza y sostenibilidad que las empresas deben abordar para mitigar riesgos relacionados con la transparencia y la confianza de los interesados.
Los chatbots de IA están transformando la forma en que las empresas manejan las consultas y quejas de los consumidores, ofreciendo velocidad y disponibilidad que los canales tradicionales a menudo no pueden igualar. Sin embargo, los consumidores de la UE actualmente carecen de un derecho transversal a exigir contacto humano al interactuar con chatbots de IA en entornos de negocio a consumidor.
La inteligencia artificial explicable (XAI) es esencial para generar confianza, asegurar transparencia y permitir responsabilidad en áreas críticas como la salud y las finanzas. Con regulaciones que exigen explicaciones claras y específicas de las decisiones de IA, la verdadera confianza proviene de explicaciones accionables y honestas que empoderan a las personas para comprender y actuar responsablemente.