La Unión Europea ha publicado un nuevo borrador de reglas para las empresas que utilizan modelos de inteligencia artificial de «propósito general», como el GPT-4 de OpenAI. Sin embargo, los críticos advierten que las propuestas aún plantean «preocupaciones significativas» para las empresas tecnológicas que operan en el continente.
Europa puede aprovechar la oportunidad que se presenta con la nueva administración estadounidense para fortalecer su solidaridad y patriotismo, especialmente en el campo de la inteligencia artificial. A pesar de los desafíos, se argumenta que Europa tiene las herramientas y la capacidad para competir en la carrera de la IA, construyendo empresas con talento y valores europeos.
Kristen Gonzalez, senadora estatal de Nueva York, introdujo la Ley de Carga, que requiere que las agencias gubernamentales estatales divulguen el uso de tecnología de inteligencia artificial y prohíbe su uso en ciertos casos. Esta legislación es la primera en el país en incluir protecciones laborales para los trabajadores estatales en relación con la inteligencia artificial.
La Comisión Europea publicó por primera vez una propuesta para una Directiva de Responsabilidad de IA («AILD») en septiembre de 2022, como parte de un conjunto más amplio de iniciativas. Sin embargo, a diferencia de las otras directivas, la AILD ha encontrado estancamiento y resistencia durante el proceso legislativo.
La inteligencia artificial está presente en todas partes, filtra candidatos para empleos, aprueba préstamos y hasta recomienda con quién deberías salir. Sin embargo, cuando comete errores, los sesgos y riesgos de privacidad no son solo teóricos; ya han sucedido.
El 4 de marzo de 2025, el gobierno irlandés aprobó un modelo regulatorio distribuido para la aplicación de la Ley de Inteligencia Artificial (IA) de la UE. Esta decisión marca un paso significativo en el marco de gobernanza de IA de Irlanda, designando ocho organismos públicos como autoridades competentes nacionales.
Los servicios de auditoría de modelos de IA son esenciales para el desarrollo responsable de la inteligencia artificial. Estas auditorías ayudan a garantizar la equidad, la transparencia y la seguridad en los sistemas de IA, mitigando riesgos y fomentando la confianza en las aplicaciones impulsadas por IA.
En esta publicación, exploramos la relación entre la Ley de IA de la UE y el GDPR, preguntándonos si ambas regulaciones son compatibles o si existen contradicciones. Aunque hay superposiciones en la aplicación, las diferencias en los objetivos y la responsabilidad hacen que sea crucial analizar los fundamentos de ambos marcos regulatorios.
El uso de datos de pacientes para el desarrollo o entrenamiento de sistemas de IA utilizados en la investigación científica requiere una cuidadosa consideración regulatoria. Cuando se utilizan datos de pacientes, el cumplimiento del GDPR se vuelve crucial, y las organizaciones deben evaluar la compatibilidad del uso secundario de datos además de otros principios y obligaciones del GDPR.
La MHRA ha publicado legislación sobre la vigilancia post-comercialización y analizará datos para generar señales de seguridad para los dispositivos de software como dispositivo médico (SaMD). Sin embargo, han señalado que, hasta la fecha, ha habido pocos informes de eventos adversos para SaMD.
Take the first steps in your transformation towards international AI compliance.
Our expert sales team is here to answer your questions, just leave your email and we’ll get in touch.
