El 25 de noviembre de 2024, el Tribunal de Distrito de Sofía en Bulgaria solicitó una decisión preliminar al CJEU sobre el sistema de toma de decisiones automatizadas (ADM) bajo la Ley de IA. El caso se centra en las preguntas de transparencia, revisión humana y equidad relacionadas con el cálculo automático de tarifas por parte de una empresa de telecomunicaciones.
En los últimos dos años, la Unión Europea ha desarrollado la Ley de Inteligencia Artificial, que entró en vigor el 1 de agosto de 2024, con el objetivo de regular el uso de sistemas de IA que representan riesgos inaceptables. Esta ley no solo busca proteger a la sociedad de los peligros potenciales de la IA, sino también fomentar una «conciencia digital» sobre su uso.
La inteligencia artificial (IA) está evolucionando rápidamente y se está aplicando en más situaciones dentro de las empresas. Europa está introduciendo la Ley de IA, un marco legal uniforme con el que las empresas deben cumplir para evitar altas multas a partir del 2 de febrero de 2025.
El potencial transformador de la inteligencia artificial (IA) es innegable, y la mayoría de los líderes globales en IA están aumentando sus inversiones en esta tecnología. Sin embargo, es crucial que la IA se implemente de manera responsable y reflexiva para aprovechar sus beneficios potenciales.
El auge de la inteligencia artificial (IA) en el marketing digital ha revolucionado la forma en que las empresas interactúan con los consumidores. Sin embargo, es crucial que las empresas adopten prácticas de IA responsable para garantizar el uso ético y transparente de estas tecnologías.
La directora de la Oficina de IA, Lucilla Sioli, afirmó que la Ley de IA formará parte del paquete digital de la Comisión, pero no se debe esperar una «gran revisión» de la misma. La evaluación se centrará en cómo simplificar algunos aspectos para las pequeñas y medianas empresas (PYMES).
El Instituto de IA Responsable (RAI Institute) está tomando medidas audaces para remodelar y acelerar el futuro de la adopción responsable de la IA, expandiéndose más allá de la defensa de políticas para implementar herramientas impulsadas por IA. Esta transformación responde a cambios regulatorios rápidos y a la creciente necesidad de gobernanza en un entorno de IA agentiva.
Construir un sistema de gestión de IA efectivo y de alta integridad requiere enfrentar una verdad incómoda: la gobernanza que parece robusta en papel puede colapsar catastróficamente cuando está desconectada de la supervisión organizacional más amplia. El esquema Robodebt de Australia es un ejemplo claro de cómo los controles técnicos sofisticados pueden fallar sin una supervisión adecuada.
Este artículo describe cómo mapear los componentes fundamentales de los sistemas de inteligencia artificial, incluyendo modelos, conjuntos de datos, interfaces y agentes, para una gobernanza efectiva. Utilizando un sistema de «tarjetas», se captura información esencial para entender las relaciones y riesgos asociados a cada componente.
El sistema de gestión de inteligencia artificial (AIMS) comienza con la creación de un inventario de sistemas de IA, que permite mapear y comprender el paisaje de IA en una organización. Es fundamental definir el alcance de los sistemas de IA y documentar sus capacidades y casos de uso para garantizar una gobernanza efectiva.
