Hablar sobre la inteligencia artificial (IA) y la gobernanza en este momento es una tarea desalentadora, ya que las capacidades de la IA están cambiando rápidamente. Sin embargo, el desarrollo de la «inteligencia general artificial» (AGI) parece estar cada vez más cerca de convertirse en una realidad.
El crecimiento rápido de la inteligencia artificial (IA) ha resaltado la necesidad urgente de prácticas responsables en este campo. Este estudio presenta nuestro Banco de Preguntas de IA Responsable (RAI), una herramienta integral diseñada para apoyar diversas iniciativas de IA y mejorar la gobernanza general de la IA.
Casi el 80 por ciento de los profesionales de TI encuestados consideran que la gobernanza es «extremadamente importante», lo que destaca que, aunque las organizaciones están ansiosas por innovar, también desean hacerlo de manera responsable. El estudio revela que el 72 por ciento de los encuestados informa que sus organizaciones están utilizando activamente sistemas de IA agentiva en la actualidad.
Los cambios regulatorios están acelerando el paisaje de los ensayos clínicos en Europa, impulsados por marcos clave como el Reglamento General de Protección de Datos de la UE y la Ley de IA. Las empresas biofarmacéuticas deben adaptarse proactivamente a estos cambios para aprovechar las oportunidades y enfrentar los desafíos en un entorno tecnológico en rápida evolución.
El 28 de abril, la Cámara de Representantes aprobó la primera ley importante que aborda el daño causado por la inteligencia artificial: la Ley Take It Down. Esta ley criminaliza la pornografía deepfake no consensuada y exige que las plataformas eliminen dicho material dentro de las 48 horas siguientes a la notificación.
La reciente Cumbre de IA en París destacó los desafíos crecientes para lograr un consenso global sobre la gobernanza de la IA. A medida que la innovación en IA se acelera, las regulaciones fragmentadas podrían crear obstáculos para las empresas, convirtiendo la gobernanza en un factor determinante para la adopción futura de la IA.
El regulador de seguridad en línea Ofcom ha sido acusado de tener una respuesta «confusa y desordenada» ante la regulación de los peligros de los chatbots de IA, que podrían representar un «riesgo claro» para el público. Se argumenta que muchas empresas tecnológicas están lanzando chatbots de IA sin suficientes salvaguardias, lo que presenta serias preocupaciones sobre la seguridad de los usuarios.
La inteligencia artificial generativa está transformando industrias al permitir que las empresas ofrezcan experiencias excepcionales a los clientes, pero también plantea riesgos significativos. La metodología de red teaming es fundamental para identificar vulnerabilidades y garantizar el desarrollo seguro y responsable de sistemas de IA.
La adopción de la inteligencia artificial en EE. UU. ha superado la capacidad de muchas empresas para gobernar su uso, lo que plantea preocupaciones sobre la transparencia y el comportamiento ético. A pesar de que el 70% de los trabajadores desea aprovechar los beneficios de la IA, el 75% sigue preocupado por los resultados negativos.
Dubai Finance ha presentado ‘ASCEND’, la primera plataforma de cumplimiento basada en inteligencia artificial del mundo, durante la Semana de la IA en Dubái. Esta innovadora herramienta promete transformar la manera en que las empresas gestionan sus requisitos de cumplimiento.
