En la cuarta panel de discusión del AI Health Law & Policy Summit, se abordaron las complejidades de la Ley de IA de la UE y los desafíos de cumplimiento regulatorio global para los productos médicos habilitados por IA. Los panelistas destacaron la importancia de establecer programas de gobernanza robustos y la cooperación entre los sectores público y privado para adaptarse a las nuevas regulaciones.
La Comisión Europea publicó un informe que analiza la retroalimentación de las partes interesadas sobre las definiciones de IA y las prácticas prohibidas, destacando preocupaciones significativas sobre prácticas como el reconocimiento de emociones y la identificación biométrica en tiempo real. Además, se requiere que los proveedores y desplegadores de sistemas de IA aseguren un nivel adecuado de alfabetización en IA entre su personal, según el artículo 4 de la Ley de IA.
A medida que avanza el desarrollo de la IA, su uso en la ciberseguridad se vuelve inevitable, ya que puede ayudar a detectar y prevenir amenazas cibernéticas de maneras sin precedentes. Sin embargo, los actores maliciosos también pueden utilizar la IA para desarrollar métodos de ataque más sofisticados, lo que representa un riesgo significativo.
La Unión Europea (UE) ha aprobado recientemente la Ley de IA, que establece regulaciones claras para el desarrollo y despliegue de la inteligencia artificial. Esta legislación tiene como objetivo proteger los derechos fundamentales mientras desafía y crea oportunidades para las industrias de impresión y procesamiento de documentos.
La Ley de IA de la UE está diseñada para garantizar que la inteligencia artificial se utilice de manera ética y responsable, y exige que los proveedores y usuarios de sistemas de IA aseguren que su personal tenga la alfabetización adecuada en IA. Cumplir con esta regulación no solo es una obligación, sino también una oportunidad para convertir la capacitación en IA en una ventaja competitiva.
El asesor de políticas de la UE, Kai Zenner, advirtió que muchos estados miembros de la UE enfrentan dificultades financieras y carecen del personal experto necesario para hacer cumplir la Ley de IA de manera efectiva. Los países deben finalizar las reglas para las sanciones y multas antes del 2 de agosto.
Las luchas con la financiación y la retención de expertos plantearán desafíos para la aplicación de la Ley de IA de la UE, según el asesor de políticas digitales del Parlamento Europeo, Kai Zenner. Dijo que la falta de capital y talento será uno de los principales retos para hacer cumplir la ley.
La Oficina de IA de la UE ha confirmado que el Código de Práctica de IA de Propósito General (GPAI) se ha retrasado, con la versión final programada para publicarse «en agosto». Este retraso plantea la posibilidad de que no haya suficiente tiempo entre la publicación del borrador final y la entrada en vigor de las disposiciones de la Ley de IA de la UE relacionadas con los proveedores de modelos GPAI.
Con menos de tres meses para que los 27 estados miembros de la UE nombren un regulador encargado de supervisar el cumplimiento de la Ley de IA, sigue sin estar claro en al menos la mitad de los estados miembros qué autoridad será nominada. La falta de nombramiento de los organismos de supervisión generará incertidumbre para las empresas que deben comenzar a cumplir con las normas.
Philips, como líder global en tecnología de la salud, enfatiza que el marco regulatorio para los dispositivos médicos de IA debe garantizar la seguridad de los pacientes y fomentar un ecosistema competitivo en Europa. El AI Act clasifica las aplicaciones y sistemas de IA en cuatro categorías de riesgo y se aplicará plenamente a los sistemas de IA de alto riesgo para agosto de 2027.