Philips, como líder global en tecnología de la salud, enfatiza que el marco regulatorio para los dispositivos médicos de IA debe garantizar la seguridad de los pacientes y fomentar un ecosistema competitivo en Europa. El AI Act clasifica las aplicaciones y sistemas de IA en cuatro categorías de riesgo y se aplicará plenamente a los sistemas de IA de alto riesgo para agosto de 2027.
La rápida adopción de la automatización impulsada por IA en DevSecOps presenta tanto oportunidades como desafíos, ya que la dependencia excesiva de la automatización puede crear puntos ciegos en la seguridad. Es fundamental que los líderes de seguridad mantengan un equilibrio entre la eficiencia de la automatización y la mitigación real de riesgos en un mundo de confianza cero.
Un desafío clave en el entrenamiento de modelos de inteligencia artificial generativa es garantizar el cumplimiento de las leyes de derechos de autor. La Ley de IA de la UE refuerza la necesidad de cumplir con los derechos de autor, especialmente en lo que respecta a los modelos de lenguaje de gran tamaño (LLM).
Las empresas de Big Tech presionaron a la Comisión Europea para suavizar el Código de Práctica sobre IA de Propósito General, según un informe de Corporate Europe Observatory y LobbyControl. El estudio revela que las empresas tecnológicas tuvieron más acceso al proceso de redacción que otros interesados, lo que resultó en reglas debilitadas en torno a la IA avanzada.
La Ministra de Tecnología de la Información y Telecomunicaciones, Shaza Fatima Khawaja, habló sobre la necesidad de una “gobernanza ética de la IA” en una conferencia internacional. Sin embargo, las propuestas de regulación a menudo buscan regular superficialmente los resultados de la IA en lugar de abordar la transparencia y la rendición de cuentas.
A medida que el Departamento de Defensa (DoD) amplía la inteligencia artificial en sus operaciones, los contratistas gubernamentales deben asegurarse de que sus soluciones de IA se alineen con los mandatos federales y los estándares éticos. Esta guía proporciona enlaces a orientaciones y plantillas, y describe los requisitos esenciales y los pasos prácticos para ayudar a los contratistas a navegar de manera efectiva el cumplimiento de la IA del DoD.
Las plataformas de orquestación de contenedores que impulsan los servicios de inteligencia artificial de hoy manejan una propiedad intelectual y datos personales cada vez más sensibles. Es crucial que los CISO y los arquitectos de seguridad sean estratégicos en la protección de los servicios de inferencia de ML y LLM en entornos de orquestación de contenedores.
Las instituciones financieras enfrentan un desafío crítico al equilibrar la detección de fraudes mediante inteligencia artificial con el cumplimiento de las regulaciones y la protección de la privacidad del cliente. Aunque la IA promete mejorar la precisión en la detección de fraudes, también plantea preguntas complejas sobre la transparencia y el uso ético de los datos.
El Fiscal General de Nueva Jersey y la División de Derechos Civiles anunciaron una Iniciativa de Derechos Civiles y Tecnología para abordar los riesgos de discriminación derivados del uso de inteligencia artificial en la contratación. La guía emitida aclara que la Ley Contra la Discriminación de Nueva Jersey se aplica a la «discriminación algorítmica» y proporciona ejemplos de cómo la IA puede causar discriminación en el proceso de contratación.
Las nuevas leyes de vigilancia biométrica de Hungría violan la Ley de IA de la UE al permitir el uso de tecnología de reconocimiento facial en procedimientos de infracción, lo que afecta el derecho a la libertad de reunión y expresión. Esta expansión de la vigilancia en protestas pacíficas socava la confianza en la democracia y debe ser examinada urgentemente por la UE.