IBM ha introducido herramientas para ayudar a las organizaciones a gestionar sistemas de inteligencia artificial (IA) que pueden no estar bajo su control. Con el aumento del uso de la IA en el entorno empresarial, se ha vuelto crucial abordar el desafío del «Shadow AI», donde los empleados utilizan herramientas de IA no aprobadas.
La inteligencia artificial se está convirtiendo en una parte fundamental de las funciones de cumplimiento corporativo, pero su implementación también introduce riesgos regulatorios y operativos que las organizaciones deben abordar. Los reguladores esperan que las empresas mantengan los sistemas habilitados por IA bajo los mismos estándares de cumplimiento que cualquier otra función empresarial.
A medida que las organizaciones transitan de la experimentación casual al uso diario de herramientas de inteligencia artificial generativa, se vuelve evidente la necesidad de una auditoría exhaustiva de IA. Una auditoría bien planificada puede ayudar a identificar riesgos legales, operativos y reputacionales antes de que se agraven.
En un mundo obsesionado con la rapidez y los costos bajos, la inteligencia artificial ha hecho que lo «suficientemente bueno» parezca tentador en los resultados de asesoría legal y de riesgos. Sin embargo, la conformidad no es una carrera; es un contrato con reguladores y partes interesadas, y los atajos pueden tener consecuencias graves.
La Unión Europea ha publicado un nuevo código de prácticas voluntario para ayudar a las empresas a cumplir con su próxima Ley de IA. Este código se centra en áreas clave como las obligaciones de transparencia, las protecciones de derechos de autor y la seguridad de los sistemas de IA avanzados.
Un proyecto de ley en California busca abordar los impactos perjudiciales de los chatbots «compañeros», diseñados para simular relaciones humanas y proporcionar apoyo emocional, especialmente a usuarios vulnerables como niños. Si se aprueba, sería una de las primeras leyes en el país en regular estos compañeros de IA con estándares claros de seguridad y protección al usuario.
La reciente orientación de la CNIL sobre la aplicación del interés legítimo como base legal para el procesamiento de datos personales en el entrenamiento de modelos de inteligencia artificial proporciona claridad en un tema controvertido. Sin embargo, otros problemas regulatorios relacionados con los derechos de autor y las obligaciones de implementación siguen sin resolverse.
El desarrollo de la inteligencia artificial (IA) está controlado por un pequeño grupo de empresas que dominan el mercado, lo que plantea problemas como la violación de la privacidad y la discriminación. Sin embargo, los cooperativas de IA ofrecen un modelo alternativo que puede promover un uso más responsable y centrado en la comunidad de esta tecnología.
La tecnología de intercambio de rostros, impulsada por la inteligencia artificial, ha sido mal utilizada en la producción de pornografía no consensuada, lo que plantea serias cuestiones éticas y legales. Este artículo explora las consecuencias de dicho uso indebido y cómo plataformas como AdpexAI están estableciendo un estándar para el uso responsable de esta tecnología.
Un experto en gobernanza de inteligencia artificial en Hong Kong ha lanzado el primer plan estratégico para recuperar la posición de la ciudad en los rankings globales de IA. Este plan busca fortalecer la infraestructura y fomentar la innovación en el ámbito de la inteligencia artificial.