Desde hace tiempo, existen preocupaciones sobre los riesgos existenciales que podrían plantear los sistemas de IA altamente capaces, que van desde la pérdida de control hasta la extinción. Aunque se cree que la inteligencia artificial está cerca de igualar o superar la inteligencia humana, hay problemas más urgentes y daños causados por la IA que deben abordarse primero.
El Papa Leo XIV ha hecho un llamado a la comunidad internacional para establecer marcos de gobernanza ética para la inteligencia artificial, enfatizando que esta tecnología debe utilizarse al servicio de la humanidad y la paz. Subrayó la necesidad urgente de reflexionar sobre las implicaciones éticas de las tecnologías de IA que son cada vez más capaces de actuar de manera autónoma.
La publicación discute las críticas masivas que han surgido tras la publicación del Código de Conducta de la UE sobre el uso de la inteligencia artificial. A pesar de que el código busca simplificar el cumplimiento de la Ley de IA de la UE, ha encontrado oposición de diversos grupos, incluidos ejecutivos y ONGs.
A medida que la inteligencia artificial se convierte en un elemento central de las operaciones comerciales, los gobiernos están introduciendo leyes estrictas para regular su desarrollo y uso. En 2025, la certificación de cumplimiento de IA ya no es opcional; es esencial para cumplir con las nuevas regulaciones legales y éticas.
Este mes, el Senado de EE.UU. votó para eliminar una provisión controvertida en el paquete de impuestos y gastos del presidente Trump que habría bloqueado a los estados de regular la inteligencia artificial durante la próxima década. Con la moratoria muerta, más de 1,000 proyectos de ley relacionados con la IA han resurgido en todos los estados, abordando temas como la protección de datos biométricos y la transparencia algorítmica.
Texas se convirtió recientemente en el segundo estado en aprobar una ley que prohíbe la discriminación algorítmica, lo que sanciona a los operadores de sistemas de IA que traten de manera injusta a ciertos grupos. Estas regulaciones podrían ser catastróficas para la verdad, la innovación y, en última instancia, la libertad humana.
Meta ha anunciado que no firmará el código de prácticas de la Ley de IA de la Unión Europea, citando incertidumbres legales que podrían obstaculizar el desarrollo de modelos de IA en Europa. La compañía expresa preocupación de que estas medidas puedan afectar negativamente a las empresas europeas que buscan construir negocios sobre estas tecnologías.
La adopción de la inteligencia artificial se ha vuelto casi universal entre las empresas del Reino Unido, con un 93% de las organizaciones utilizando la tecnología en alguna forma. Sin embargo, solo el 7% ha incorporado completamente marcos de gobernanza para gestionar sus riesgos, según el Índice de Gobernanza de IA 2025 de Trustmarque.
La Comisión Europea ha publicado su guía para modelos de IA de propósito general bajo la Ley de IA, aclarando las obligaciones de los proveedores. A partir del 2 de agosto de 2025, estos proveedores deberán cumplir con las nuevas normativas y colaborar con el personal técnico de la Oficina de IA.
La transparencia es un requisito clave para la inteligencia artificial confiable, especialmente para los sistemas de alto riesgo según la Ley de Inteligencia Artificial de la Unión Europea. Esto implica que los sistemas de IA deben ser claros y comprensibles para los interesados, garantizando que las decisiones de la IA puedan ser examinadas y que se mantenga el cumplimiento de los estándares éticos y legales.