Recientemente, Politiscope organizó un evento en Croacia para discutir el impacto de la inteligencia artificial (IA) en los derechos humanos y concienciar sobre los daños relacionados con la IA. Se destacó la importancia de incorporar salvaguardias para los derechos de las personas en la futura legislación nacional sobre IA.
La Ley de IA de la Unión Europea, que entró en vigor el año pasado, sirve de inspiración para algunos legisladores estadounidenses que buscan implementar protecciones al consumidor. Sin embargo, también se utiliza como una advertencia contra la sobre-regulación que podría llevar a una economía digital menos competitiva.
El 20 de mayo, se llevó a cabo una reunión en Bruselas del programa «Mantenerse fiel a la Ley, mantener la fidelidad a la Cultura», donde se expresó preocupación sobre la implementación de la Ley de Inteligencia Artificial de la UE. Los miembros de la comunidad creativa europea enfatizaron la necesidad de involucrar al sector creativo en la formulación de estándares para el desarrollo y uso de la IA.
La regulación general de protección de datos (GDPR) complica el uso necesario y deseable de datos y inteligencia artificial (IA). Para que Europa sea competitiva en IA, se necesitan medidas como simplificar el uso de datos personales para entrenar sistemas de IA y eliminar regulaciones superpuestas.
El Acta de Inteligencia Artificial de la UE introduce nuevas regulaciones para las neurotecnologías, aplicándose a los sistemas de IA que se comercializan en la UE. Esto incluye la prohibición de técnicas subliminales que distorsionan el comportamiento humano y causan daño significativo.
El 9 de abril de 2025, la Comisión Europea publicó el Plan de Acción de la Continent AI, que describe la estrategia de la UE para mejorar la innovación y el cumplimiento normativo en inteligencia artificial (IA). El plan enfatiza la importancia de una IA confiable y centrada en el ser humano para el crecimiento económico y la preservación de los derechos fundamentales.
El Acta de IA de la UE impone nuevos requisitos de respuesta y reporte de incidentes que buscan proteger a los consumidores en un paisaje tecnológico en rápida evolución. Las organizaciones que ya tienen procesos de incidentes estructurados encontrarán que cumplir con esta normativa es más fácil y fluido.
Los responsables políticos de la UE están considerando establecer medidas de umbral de recursos computacionales para ayudar a las empresas a determinar si los modelos de IA que entrenan o modifican están sujetos a los requisitos regulatorios bajo la Ley de IA de la UE. Se espera que los comentarios de la industria ayuden a dar forma a nuevas pautas que aclaren el alcance del régimen de IA de propósito general, que entrará en vigor el 2 de agosto de 2025.
Europa está avanzando con sus planes para hacer cumplir su Ley de IA, que comenzará en 16 meses. Los fabricantes de dispositivos médicos están preocupados por la carga que esto podría suponer para ellos, ya que deberán cumplir tanto con las regulaciones de dispositivos como con la nueva ley de IA.
En Salesforce, creemos que la inteligencia artificial responsable comienza con límites claros y abogamos por un enfoque basado en riesgos para la gobernanza de la IA que prioriza los derechos humanos y consideraciones éticas. La Ley de IA de la Unión Europea establece un conjunto de «prácticas prohibidas» que prohíben el uso de la IA que representa riesgos significativos para los derechos fundamentales.
Take the first steps in your transformation towards international AI compliance.
Our expert sales team is here to answer your questions, just leave your email and we’ll get in touch.
