Las nuevas leyes de vigilancia biométrica de Hungría violan la Ley de IA de la UE al permitir el uso de tecnología de reconocimiento facial en procedimientos de infracción, lo que afecta el derecho a la libertad de reunión y expresión. Esta expansión de la vigilancia en protestas pacíficas socava la confianza en la democracia y debe ser examinada urgentemente por la UE.
El 28 de abril, la Cámara de Representantes aprobó la primera ley importante que aborda el daño causado por la inteligencia artificial: la Ley Take It Down. Esta ley criminaliza la pornografía deepfake no consensuada y exige que las plataformas eliminen dicho material dentro de las 48 horas siguientes a la notificación.
El regulador de seguridad en línea Ofcom ha sido acusado de tener una respuesta «confusa y desordenada» ante la regulación de los peligros de los chatbots de IA, que podrían representar un «riesgo claro» para el público. Se argumenta que muchas empresas tecnológicas están lanzando chatbots de IA sin suficientes salvaguardias, lo que presenta serias preocupaciones sobre la seguridad de los usuarios.
Los autores de la Ley de IA de Europa esperaban que su creación inspirara a otros países a adoptar regulaciones similares, como sucedió con el GDPR. Sin embargo, hasta ahora, solo Canadá y Brasil están trabajando en marcos similares, mientras que otras naciones siguen un enfoque menos restrictivo.
El regulador de seguridad en línea Ofcom ha sido acusado de tener una respuesta «confusa y desordenada» ante la regulación de los peligros que presentan los chatbots de IA, que podrían representar un «claro riesgo» para el público. Andy Burrows, director ejecutivo de la Molly Rose Foundation, afirmó que muchas empresas tecnológicas están apresurando la salida de chatbots de IA en una lucha por ganar participación de mercado en el nuevo ámbito de la IA generativa.
En Salesforce, creemos que la inteligencia artificial responsable comienza con límites claros y abogamos por un enfoque basado en riesgos para la gobernanza de la IA que prioriza los derechos humanos y consideraciones éticas. La Ley de IA de la Unión Europea establece un conjunto de «prácticas prohibidas» que prohíben el uso de la IA que representa riesgos significativos para los derechos fundamentales.
La Comisión Europea ha publicado directrices sobre las prácticas de inteligencia artificial (IA) prohibidas bajo la Ley de IA, que prohíben técnicas manipulativas y sistemas que explotan vulnerabilidades. Estas directrices tienen como objetivo proporcionar claridad legal y ayudar a las empresas a cumplir con la legislación.
La inteligencia artificial se ha convertido rápidamente en un motor crítico en cada industria, pero también conlleva riesgos significativos. En una conversación reciente, el Dr. Enzo Tolentino destacó la importancia de gestionar estos riesgos y mantener la confianza en los sistemas de IA.
La Comisión Europea publicó directrices que aclaran la definición de sistemas de IA bajo la Ley de IA, analizando cada componente de la definición y proporcionando ejemplos. Estas directrices, aunque no vinculantes, son una herramienta útil para que las empresas evalúen si se encuentran dentro del alcance de la Ley de IA.
La Comisión Europea invita a todos los interesados a ofrecer su opinión antes de la redacción de las próximas directrices sobre modelos de inteligencia artificial de propósito general (GPAI) en la Ley de IA. El proceso de consulta está abierto hasta el 22 de mayo y busca dar forma a reglas claras y accesibles sobre la IA de propósito general.